bin/tools/config.py

   1 # -*- coding: utf-8 -*-
   2 ##############################################################################
   3 #
   4 #    OpenERP, Open Source Management Solution
   5 #    Copyright (C) 2004-2009 Tiny SPRL (<http://tiny.be>).
   6 #
   7 #    This program is free software: you can redistribute it and/or modify
   8 #    it under the terms of the GNU Affero General Public License as
   9 #    published by the Free Software Foundation, either version 3 of the
  10 #    License, or (at your option) any later version.
  11 #
  12 #    This program is distributed in the hope that it will be useful,
  13 #    but WITHOUT ANY WARRANTY; without even the implied warranty of
  14 #    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  15 #    GNU Affero General Public License for more details.
  16 #
  17 #    You should have received a copy of the GNU Affero General Public License
  18 #    along with this program.  If not, see <http://www.gnu.org/licenses/>.
  19 #
  20 ##############################################################################
  21
  22 import ConfigParser
  23 import optparse
  24 import os
  25 import sys
  26 import netsvc
  27 import logging
  28 import release
  29
  30 def check_ssl():
  31     try:
  32         from OpenSSL import SSL
  33         import socket
  34
  35         return hasattr(socket, 'ssl') and hasattr(SSL, "Connection")
  36     except:
  37         return False
  38
  39 class configmanager(object):
  40     def __init__(self, fname=None):
  41         self.options = {
  42             'email_from':False,
  43             'xmlrpc_interface': '',    # this will bind the server to all interfaces
  44             'xmlrpc_port': 8069,
  45             'netrpc_interface': '',
  46             'netrpc_port': 8070,
  47             'xmlrpcs_interface': '',    # this will bind the server to all interfaces
  48             'xmlrpcs_port': 8071,
  49             'db_host': False,
  50             'db_port': False,
  51             'db_name': False,
  52             'db_user': False,
  53             'db_password': False,
  54             'db_maxconn': 64,
  55             'reportgz': False,
  56             'netrpc': True,
  57             'xmlrpc': True,
  58             'xmlrpcs': True,
  59             'translate_in': None,
  60             'translate_out': None,
  61             'language': None,
  62             'pg_path': None,
  63             'admin_passwd': 'admin',
  64             'csv_internal_sep': ',',
  65             'addons_path': None,
  66             'root_path': None,
  67             'debug_mode': False,
  68             'import_partial': "",
  69             'pidfile': None,
  70             'logfile': None,
  71             'logrotate': True,
  72             'smtp_server': 'localhost',
  73             'smtp_user': False,
  74             'smtp_port':25,
  75             'smtp_ssl':False,
  76             'smtp_password': False,
  77             'stop_after_init': False,   # this will stop the server after initialization
  78             'syslog' : False,
  79             'log_level': logging.INFO,
  80             'assert_exit_level': logging.ERROR, # level above which a failed assert will be raised
  81             'cache_timeout': 100000,
  82             'login_message': False,
  83             'list_db' : True,
  84             'timezone' : False, # to override the default TZ
  85             'test_file' : False,
  86             'test_report_directory' : False,
  87             'test_disable' : False,
  88             'test_commit' : False,
  89             'static_http_enable': False,
  90             'static_http_document_root': None,
  91             'static_http_url_prefix': None,
  92             'secure_cert_file': 'server.cert',
  93             'secure_pkey_file': 'server.pkey',
  94             'maintenance_server': 'http://tiny.my.odoo.com:8069/xmlrpc/',
  95             'maintenance_db': 'tiny_belgium',
  96             'maintenance_login': 'maintenance',
  97             'maintenance_password': 'maintenance',
  98         }
  99
 100         self.misc = {}
 101         self.config_file = fname
 102         self.has_ssl = check_ssl()
 103
 104         self._LOGLEVELS = dict([(getattr(netsvc, 'LOG_%s' % x), getattr(logging, x))
 105                           for x in ('CRITICAL', 'ERROR', 'WARNING', 'INFO', 'TEST', 'DEBUG', 'DEBUG_RPC', 'DEBUG_SQL', 'DEBUG_RPC_ANSWER','NOTSET')])
 106
 107         version = "%s %s" % (release.description, release.version)
 108         self.parser = parser = optparse.OptionParser(version=version)
 109
 110         parser.add_option("-c", "--config", dest="config", help="specify alternate config file")
 111         parser.add_option("-s", "--save", action="store_true", dest="save", default=False,
 112                           help="save configuration to ~/.openerp_serverrc")
 113         parser.add_option("--pidfile", dest="pidfile", help="file where the server pid will be stored")
 114
 115         group = optparse.OptionGroup(parser, "XML-RPC Configuration")
 116         group.add_option("--xmlrpc-interface", dest="xmlrpc_interface", help="specify the TCP IP address for the XML-RPC protocol")
 117         group.add_option("--xmlrpc-port", dest="xmlrpc_port", help="specify the TCP port for the XML-RPC protocol", type="int")
 118         group.add_option("--no-xmlrpc", dest="xmlrpc", action="store_false", help="disable the XML-RPC protocol")
 119         parser.add_option_group(group)
 120
 121         title = "XML-RPC Secure Configuration"
 122         if not self.has_ssl:
 123             title += " (disabled as ssl is unavailable)"
 124
 125         group = optparse.OptionGroup(parser, title)
 126         group.add_option("--xmlrpcs-interface", dest="xmlrpcs_interface", help="specify the TCP IP address for the XML-RPC Secure protocol")
 127         group.add_option("--xmlrpcs-port", dest="xmlrpcs_port", help="specify the TCP port for the XML-RPC Secure protocol", type="int")
 128         group.add_option("--no-xmlrpcs", dest="xmlrpcs", action="store_false", help="disable the XML-RPC Secure protocol")
 129         group.add_option("--cert-file", dest="secure_cert_file", help="specify the certificate file for the SSL connection")
 130         group.add_option("--pkey-file", dest="secure_pkey_file", help="specify the private key file for the SSL connection")
 131         parser.add_option_group(group)
 132
 133         # NET-RPC
 134         group = optparse.OptionGroup(parser, "NET-RPC Configuration")
 135         group.add_option("--netrpc-interface", dest="netrpc_interface", help="specify the TCP IP address for the NETRPC protocol")
 136         group.add_option("--netrpc-port", dest="netrpc_port", help="specify the TCP port for the NETRPC protocol", type="int")
 137         group.add_option("--no-netrpc", dest="netrpc", action="store_false", help="disable the NETRPC protocol")
 138         parser.add_option_group(group)
 139
 140         # Static HTTP
 141         group = optparse.OptionGroup(parser, "Static HTTP service")
 142         group.add_option("--static-http-enable", dest="static_http_enable", action="store_true", default=False, help="enable static HTTP service for serving plain HTML files")
 143         group.add_option("--static-http-document-root", dest="static_http_document_root", help="specify the directory containing your static HTML files (e.g '/var/www/')")
 144         group.add_option("--static-http-url-prefix", dest="static_http_url_prefix", help="specify the URL root prefix where you want web browsers to access your static HTML files (e.g '/')")
 145         parser.add_option_group(group)
 146
 147         parser.add_option("-i", "--init", dest="init", help="init a module (use \"all\" for all modules)")
 148         parser.add_option("--without-demo", dest="without_demo",
 149                           help="load demo data for a module (use \"all\" for all modules)", default=False)
 150         parser.add_option("-u", "--update", dest="update",
 151                           help="update a module (use \"all\" for all modules)")
 152         parser.add_option("--cache-timeout", dest="cache_timeout",
 153                           help="set the timeout for the cache system", type="int")
 154         parser.add_option("-t", "--timezone", dest="timezone", help="specify reference timezone for the server (e.g. Europe/Brussels")
 155
 156         # stops the server from launching after initialization
 157         parser.add_option("--stop-after-init", action="store_true", dest="stop_after_init", default=False,
 158                           help="stop the server after it initializes")
 159         parser.add_option('--debug', dest='debug_mode', action='store_true', default=False, help='enable debug mode')
 160         parser.add_option("--assert-exit-level", dest='assert_exit_level', type="choice", choices=self._LOGLEVELS.keys(),
 161                           help="specify the level at which a failed assertion will stop the server. Accepted values: %s" % (self._LOGLEVELS.keys(),))
 162
 163         # Testing Group
 164         group = optparse.OptionGroup(parser, "Testing Configuration")
 165         group.add_option("--test-file", dest="test_file", help="Launch a YML test file.")
 166         group.add_option("--test-report-directory", dest="test_report_directory", help="If set, will save sample of all reports in this directory.")
 167         group.add_option("--test-disable", action="store_true", dest="test_disable",
 168                          default=False, help="Disable loading test files.")
 169         group.add_option("--test-commit", action="store_true", dest="test_commit",
 170                          default=False, help="Commit database changes performed by tests.")
 171         parser.add_option_group(group)
 172
 173         # Logging Group
 174         group = optparse.OptionGroup(parser, "Logging Configuration")
 175         group.add_option("--logfile", dest="logfile", help="file where the server log will be stored")
 176         group.add_option("--no-logrotate", dest="logrotate", action="store_false",
 177                          help="do not rotate the logfile")
 178         group.add_option("--syslog", action="store_true", dest="syslog",
 179                          default=False, help="Send the log to the syslog server")
 180         group.add_option('--log-level', dest='log_level', type='choice', choices=self._LOGLEVELS.keys(),
 181                          help='specify the level of the logging. Accepted values: ' + str(self._LOGLEVELS.keys()))
 182         parser.add_option_group(group)
 183
 184         # SMTP Group
 185         group = optparse.OptionGroup(parser, "SMTP Configuration")
 186         group.add_option('--email-from', dest='email_from', help='specify the SMTP email address for sending email')
 187         group.add_option('--smtp', dest='smtp_server', help='specify the SMTP server for sending email')
 188         group.add_option('--smtp-port', dest='smtp_port', help='specify the SMTP port', type="int")
 189         group.add_option('--smtp-ssl', dest='smtp_ssl', action='store_true', help='specify the SMTP server support SSL or not')
 190         group.add_option('--smtp-user', dest='smtp_user', help='specify the SMTP username for sending email')
 191         group.add_option('--smtp-password', dest='smtp_password', help='specify the SMTP password for sending email')
 192         parser.add_option_group(group)
 193
 194         group = optparse.OptionGroup(parser, "Database related options")
 195         group.add_option("-d", "--database", dest="db_name", help="specify the database name")
 196         group.add_option("-r", "--db_user", dest="db_user", help="specify the database user name")
 197         group.add_option("-w", "--db_password", dest="db_password", help="specify the database password")
 198         group.add_option("--pg_path", dest="pg_path", help="specify the pg executable path")
 199         group.add_option("--db_host", dest="db_host", help="specify the database host")
 200         group.add_option("--db_port", dest="db_port", help="specify the database port", type="int")
 201         group.add_option("--db_maxconn", dest="db_maxconn", type='int',
 202                          help="specify the the maximum number of physical connections to posgresql")
 203         group.add_option("-P", "--import-partial", dest="import_partial",
 204                          help="Use this for big data importation, if it crashes you will be able to continue at the current state. Provide a filename to store intermediate importation states.", default=False)
 205         parser.add_option_group(group)
 206
 207         group = optparse.OptionGroup(parser, "Internationalisation options",
 208             "Use these options to translate OpenERP to another language."
 209             "See i18n section of the user manual. Option '-d' is mandatory."
 210             "Option '-l' is mandatory in case of importation"
 211             )
 212
 213         group.add_option('-l', "--language", dest="language",
 214                          help="specify the language of the translation file. Use it with --i18n-export or --i18n-import")
 215         group.add_option("--i18n-export", dest="translate_out",
 216                          help="export all sentences to be translated to a CSV file, a PO file or a TGZ archive and exit")
 217         group.add_option("--i18n-import", dest="translate_in",
 218                          help="import a CSV or a PO file with translations and exit. The '-l' option is required.")
 219         group.add_option("--modules", dest="translate_modules",
 220                          help="specify modules to export. Use in combination with --i18n-export")
 221         group.add_option("--addons-path", dest="addons_path",
 222                          help="specify an alternative addons path.",
 223                          action="callback", callback=self._check_addons_path, nargs=1, type="string")
 224         parser.add_option_group(group)
 225
 226         security = optparse.OptionGroup(parser, 'Security-related options')
 227         security.add_option('--no-database-list', action="store_false", dest='list_db', help="disable the ability to return the list of databases")
 228         parser.add_option_group(security)
 229
 230     def parse_config(self):
 231         opt = self.parser.parse_args()[0]
 232
 233         def die(cond, msg):
 234             if cond:
 235                 print msg
 236                 sys.exit(1)
 237
 238         die(bool(opt.syslog) and bool(opt.logfile),
 239             "the syslog and logfile options are exclusive")
 240
 241         die(opt.translate_in and (not opt.language or not opt.db_name),
 242             "the i18n-import option cannot be used without the language (-l) and the database (-d) options")
 243
 244         die(opt.translate_out and (not opt.db_name),
 245             "the i18n-export option cannot be used without the database (-d) option")
 246
 247         # Check if the config file exists (-c used, but not -s)
 248         die(not opt.save and opt.config and not os.path.exists(opt.config),
 249             "The config file '%s' selected with -c/--config doesn't exist, "\
 250             "use -s/--save if you want to generate it"%(opt.config))
 251
 252         # place/search the config file on Win32 near the server installation
 253         # (../etc from the server)
 254         # if the server is run by an unprivileged user, he has to specify location of a config file where he has the rights to write,
 255         # else he won't be able to save the configurations, or even to start the server...
 256         if os.name == 'nt':
 257             rcfilepath = os.path.join(os.path.abspath(os.path.dirname(sys.argv[0])), 'openerp-server.conf')
 258         else:
 259             rcfilepath = os.path.expanduser('~/.openerp_serverrc')
 260
 261         self.rcfile = os.path.abspath(
 262             self.config_file or opt.config \
 263                 or os.environ.get('OPENERP_SERVER') or rcfilepath)
 264         self.load()
 265
 266
 267         # Verify that we want to log or not, if not the output will go to stdout
 268         if self.options['logfile'] in ('None', 'False'):
 269             self.options['logfile'] = False
 270         # the same for the pidfile
 271         if self.options['pidfile'] in ('None', 'False'):
 272             self.options['pidfile'] = False
 273
 274         keys = ['xmlrpc_interface', 'xmlrpc_port', 'db_name', 'db_user', 'db_password', 'db_host',
 275                 'db_port', 'logfile', 'pidfile', 'smtp_port', 'cache_timeout',
 276                 'email_from', 'smtp_server', 'smtp_user', 'smtp_password',
 277                 'netrpc_interface', 'netrpc_port', 'db_maxconn', 'import_partial', 'addons_path',
 278                 'netrpc', 'xmlrpc', 'syslog', 'without_demo', 'timezone',
 279                 'xmlrpcs_interface', 'xmlrpcs_port', 'xmlrpcs',
 280                 'secure_cert_file', 'secure_pkey_file',
 281                 'static_http_enable', 'static_http_document_root', 'static_http_url_prefix'
 282                 ]
 283
 284         for arg in keys:
 285             if getattr(opt, arg):
 286                 self.options[arg] = getattr(opt, arg)
 287
 288         keys = [
 289             'language', 'translate_out', 'translate_in', 'debug_mode', 'smtp_ssl',
 290             'stop_after_init', 'logrotate', 'without_demo', 'netrpc', 'xmlrpc', 'syslog',
 291             'list_db', 'xmlrpcs',
 292             'test_file', 'test_disable', 'test_commit', 'test_report_directory'
 293         ]
 294
 295         for arg in keys:
 296             if getattr(opt, arg) is not None:
 297                 self.options[arg] = getattr(opt, arg)
 298
 299         if opt.assert_exit_level:
 300             self.options['assert_exit_level'] = self._LOGLEVELS[opt.assert_exit_level]
 301         else:
 302             self.options['assert_exit_level'] = self._LOGLEVELS.get(self.options['assert_exit_level']) or int(self.options['assert_exit_level'])
 303
 304         if opt.log_level:
 305             self.options['log_level'] = self._LOGLEVELS[opt.log_level]
 306         else:
 307             self.options['log_level'] = self._LOGLEVELS.get(self.options['log_level']) or int(self.options['log_level'])
 308
 309         if not self.options['root_path'] or self.options['root_path']=='None':
 310             self.options['root_path'] = os.path.abspath(os.path.dirname(sys.argv[0]))
 311         if not self.options['addons_path'] or self.options['addons_path']=='None':
 312             self.options['addons_path'] = os.path.join(self.options['root_path'], 'addons')
 313
 314         self.options['init'] = opt.init and dict.fromkeys(opt.init.split(','), 1) or {}
 315         self.options["demo"] = not opt.without_demo and self.options['init'] or {}
 316         self.options['update'] = opt.update and dict.fromkeys(opt.update.split(','), 1) or {}
 317         self.options['translate_modules'] = opt.translate_modules and map(lambda m: m.strip(), opt.translate_modules.split(',')) or ['all']
 318         self.options['translate_modules'].sort()
 319
 320         if self.options['timezone']:
 321             # If an explicit TZ was provided in the config, make sure it is known
 322             try:
 323                 import pytz
 324                 pytz.timezone(self.options['timezone'])
 325             except pytz.UnknownTimeZoneError:
 326                 die(True, "The specified timezone (%s) is invalid" % self.options['timezone'])
 327             except:
 328                 # If pytz is missing, don't check the provided TZ, it will be ignored anyway.
 329                 pass
 330
 331         if opt.pg_path:
 332             self.options['pg_path'] = opt.pg_path
 333
 334         if self.options.get('language', False):
 335             if len(self.options['language']) > 5:
 336                 raise Exception('ERROR: The Lang name must take max 5 chars, Eg: -lfr_BE')
 337
 338         if not self.options['db_user']:
 339             try:
 340                 import getpass
 341                 self.options['db_user'] = getpass.getuser()
 342             except:
 343                 self.options['db_user'] = None
 344
 345         die(not self.options['db_user'], 'ERROR: No user specified for the connection to the database')
 346
 347         if self.options['db_password']:
 348             if sys.platform == 'win32' and not self.options['db_host']:
 349                 self.options['db_host'] = 'localhost'
 350             #if self.options['db_host']:
 351             #    self._generate_pgpassfile()
 352
 353         if opt.save:
 354             self.save()
 355
 356     def _generate_pgpassfile(self):
 357         """
 358         Generate the pgpass file with the parameters from the command line (db_host, db_user,
 359         db_password)
 360
 361         Used because pg_dump and pg_restore can not accept the password on the command line.
 362         """
 363         is_win32 = sys.platform == 'win32'
 364         if is_win32:
 365             filename = os.path.join(os.environ['APPDATA'], 'pgpass.conf')
 366         else:
 367             filename = os.path.join(os.environ['HOME'], '.pgpass')
 368
 369         text_to_add = "%(db_host)s:*:*:%(db_user)s:%(db_password)s" % self.options
 370
 371         if os.path.exists(filename):
 372             content = [x.strip() for x in file(filename, 'r').readlines()]
 373             if text_to_add in content:
 374                 return
 375
 376         fp = file(filename, 'a+')
 377         fp.write(text_to_add + "\n")
 378         fp.close()
 379
 380         if is_win32:
 381             try:
 382                 import _winreg
 383             except ImportError:
 384                 _winreg = None
 385             x=_winreg.ConnectRegistry(None,_winreg.HKEY_LOCAL_MACHINE)
 386             y = _winreg.OpenKey(x, r"SYSTEM\CurrentControlSet\Control\Session Manager\Environment", 0,_winreg.KEY_ALL_ACCESS)
 387             _winreg.SetValueEx(y,"PGPASSFILE", 0, _winreg.REG_EXPAND_SZ, filename )
 388             _winreg.CloseKey(y)
 389             _winreg.CloseKey(x)
 390         else:
 391             import stat
 392             os.chmod(filename, stat.S_IRUSR + stat.S_IWUSR)
 393
 394     def _check_addons_path(self, option, opt, value, parser):
 395         res = os.path.abspath(os.path.expanduser(value))
 396         if not os.path.exists(res):
 397             raise optparse.OptionValueError("option %s: no such directory: %r" % (opt, value))
 398
 399         contains_addons = False
 400         for f in os.listdir(res):
 401             modpath = os.path.join(res, f)
 402             if os.path.isdir(modpath) and \
 403                os.path.exists(os.path.join(modpath, '__init__.py')) and \
 404                (os.path.exists(os.path.join(modpath, '__openerp__.py')) or \
 405                 os.path.exists(os.path.join(modpath, '__terp__.py'))):
 406
 407                 contains_addons = True
 408                 break
 409
 410         if not contains_addons:
 411             raise optparse.OptionValueError("option %s: The addons-path %r does not seem to a be a valid Addons Directory!" % (opt, value))
 412
 413         setattr(parser.values, option.dest, res)
 414
 415     def load(self):
 416         p = ConfigParser.ConfigParser()
 417         try:
 418             p.read([self.rcfile])
 419             for (name,value) in p.items('options'):
 420                 if value=='True' or value=='true':
 421                     value = True
 422                 if value=='False' or value=='false':
 423                     value = False
 424                 self.options[name] = value
 425             #parse the other sections, as well
 426             for sec in p.sections():
 427                 if sec == 'options':
 428                     continue
 429                 if not self.misc.has_key(sec):
 430                     self.misc[sec]= {}
 431                 for (name, value) in p.items(sec):
 432                     if value=='True' or value=='true':
 433                         value = True
 434                     if value=='False' or value=='false':
 435                         value = False
 436                     self.misc[sec][name] = value
 437         except IOError:
 438             pass
 439         except ConfigParser.NoSectionError:
 440             pass
 441
 442     def save(self):
 443         p = ConfigParser.ConfigParser()
 444         loglevelnames = dict(zip(self._LOGLEVELS.values(), self._LOGLEVELS.keys()))
 445         p.add_section('options')
 446         for opt in sorted(self.options.keys()):
 447             if opt in ('version', 'language', 'translate_out', 'translate_in', 'init', 'update'):
 448                 continue
 449             if opt in ('log_level', 'assert_exit_level'):
 450                 p.set('options', opt, loglevelnames.get(self.options[opt], self.options[opt]))
 451             else:
 452                 p.set('options', opt, self.options[opt])
 453
 454         for sec in sorted(self.misc.keys()):
 455             for opt in sorted(self.misc[sec].keys()):
 456                 p.set(sec,opt,self.misc[sec][opt])
 457
 458         # try to create the directories and write the file
 459         try:
 460             if not os.path.exists(os.path.dirname(self.rcfile)):
 461                 os.makedirs(os.path.dirname(self.rcfile))
 462             try:
 463                 p.write(file(self.rcfile, 'w'))
 464                 os.chmod(self.rcfile, 0600)
 465             except IOError:
 466                 sys.stderr.write("ERROR: couldn't write the config file\n")
 467
 468         except OSError:
 469             # what to do if impossible?
 470             sys.stderr.write("ERROR: couldn't create the config directory\n")
 471
 472     def get(self, key, default=None):
 473         return self.options.get(key, default)
 474
 475     def get_misc(self, sect, key, default=None):
 476         return self.misc.get(sect,{}).get(key, default)
 477
 478     def __setitem__(self, key, value):
 479         self.options[key] = value
 480
 481     def __getitem__(self, key):
 482         return self.options[key]
 483
 484 config = configmanager()
 485
 486 # FIXME:following line should be called explicitly by the server
 487 # when it starts, to allow doing 'import tools.config' from
 488 # other python executables without parsing *their* args.
 489 config.parse_config()
 490