Added commmand line arguments to make yml test easier
[odoo/odoo.git] / bin / tools / config.py
1 # -*- coding: utf-8 -*-
2 ##############################################################################
3 #
4 #    OpenERP, Open Source Management Solution
5 #    Copyright (C) 2004-2009 Tiny SPRL (<http://tiny.be>).
6 #
7 #    This program is free software: you can redistribute it and/or modify
8 #    it under the terms of the GNU Affero General Public License as
9 #    published by the Free Software Foundation, either version 3 of the
10 #    License, or (at your option) any later version.
11 #
12 #    This program is distributed in the hope that it will be useful,
13 #    but WITHOUT ANY WARRANTY; without even the implied warranty of
14 #    MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15 #    GNU Affero General Public License for more details.
16 #
17 #    You should have received a copy of the GNU Affero General Public License
18 #    along with this program.  If not, see <http://www.gnu.org/licenses/>.
19 #
20 ##############################################################################
21
22 import ConfigParser
23 import optparse
24 import os
25 import sys
26 import netsvc
27 import logging
28 import release
29
30 def check_ssl():
31     try:
32         from OpenSSL import SSL
33         import socket
34
35         return hasattr(socket, 'ssl')
36     except:
37         return False
38
39 class configmanager(object):
40     def __init__(self, fname=None):
41         self.options = {
42             'email_from':False,
43             'interface': '',    # this will bind the server to all interfaces
44             'port': 8069,
45             'netinterface': '',
46             'netport': 8070,
47             'db_host': False,
48             'db_port': False,
49             'db_name': False,
50             'db_user': False,
51             'db_password': False,
52             'db_maxconn': 64,
53             'reportgz': False,
54             'netrpc': True,
55             'xmlrpc': True,
56             'soap': False,
57             'translate_in': None,
58             'translate_out': None,
59             'language': None,
60             'pg_path': None,
61             'admin_passwd': 'admin',
62             'csv_internal_sep': ',',
63             'addons_path': None,
64             'root_path': None,
65             'debug_mode': False,
66             'import_partial': "",
67             'pidfile': None,
68             'logfile': None,
69             'logrotate': '1',
70             'smtp_server': 'localhost',
71             'smtp_user': False,
72             'smtp_port':25,
73             'smtp_ssl':False,
74             'smtp_password': False,
75             'stop_after_init': False,   # this will stop the server after initialization
76             'price_accuracy': 2,
77             'secure' : False,
78             'syslog' : False,
79             'log_level': logging.INFO,
80             'assert_exit_level': logging.ERROR, # level above which a failed assert will be raised
81             'cache_timeout': 100000,
82             'login_message': False,
83             'list_db' : True,
84             'timezone' : False, # to override the default TZ
85             'test-disable' : False,
86             'test-rollback' : True,
87             'test-continue' : False
88         }
89
90         self.misc = {}
91         self.config_file = fname
92         self.has_ssl = check_ssl()
93
94         self._LOGLEVELS = dict([(getattr(netsvc, 'LOG_%s' % x), getattr(logging, x))
95                           for x in ('CRITICAL', 'ERROR', 'WARNING', 'INFO', 'TEST', 'DEBUG', 'DEBUG_RPC', 'NOTSET')])
96
97         version = "%s %s" % (release.description, release.version)
98         self.parser = parser = optparse.OptionParser(version=version)
99
100         parser.add_option("-c", "--config", dest="config", help="specify alternate config file")
101         parser.add_option("-s", "--save", action="store_true", dest="save", default=False,
102                           help="save configuration to ~/.openerp_serverrc")
103         parser.add_option("--pidfile", dest="pidfile", help="file where the server pid will be stored")
104
105         parser.add_option("-n", "--interface", dest="interface", help="specify the TCP IP address")
106         parser.add_option("-p", "--port", dest="port", help="specify the TCP port", type="int")
107         parser.add_option("--net_interface", dest="netinterface", help="specify the TCP IP address for netrpc")
108         parser.add_option("--net_port", dest="netport", help="specify the TCP port for netrpc", type="int")
109         parser.add_option("--no-netrpc", dest="netrpc", action="store_false", help="disable netrpc")
110         parser.add_option("--no-xmlrpc", dest="xmlrpc", action="store_false", help="disable xmlrpc")
111         parser.add_option("-i", "--init", dest="init", help="init a module (use \"all\" for all modules)")
112         parser.add_option("--without-demo", dest="without_demo",
113                           help="load demo data for a module (use \"all\" for all modules)", default=False)
114         parser.add_option("-u", "--update", dest="update",
115                           help="update a module (use \"all\" for all modules)")
116         parser.add_option("--cache-timeout", dest="cache_timeout",
117                           help="set the timeout for the cache system", default=100000, type="int")
118         parser.add_option("-t", "--timezone", dest="timezone", help="specify reference timezone for the server (e.g. Europe/Brussels")
119
120         # stops the server from launching after initialization
121         parser.add_option("--stop-after-init", action="store_true", dest="stop_after_init", default=False,
122                           help="stop the server after it initializes")
123         parser.add_option('--debug', dest='debug_mode', action='store_true', default=False, help='enable debug mode')
124         parser.add_option("--assert-exit-level", dest='assert_exit_level', type="choice", choices=self._LOGLEVELS.keys(),
125                           help="specify the level at which a failed assertion will stop the server. Accepted values: %s" % (self._LOGLEVELS.keys(),))
126         parser.add_option('--price_accuracy', dest='price_accuracy', default='2', help='deprecated since v6.0, replaced by module decimal_precision')
127         parser.add_option('--no-database-list', action="store_false", dest='list_db', default=True, help="disable the ability to return the list of databases")
128
129         if self.has_ssl:
130             group = optparse.OptionGroup(parser, "SSL Configuration")
131             group.add_option("-S", "--secure", dest="secure",
132                              help="launch server over https instead of http")
133             group.add_option("--cert-file", dest="secure_cert_file",
134                               default="server.cert",
135                               help="specify the certificate file for the SSL connection")
136             group.add_option("--pkey-file", dest="secure_pkey_file",
137                               default="server.pkey",
138                               help="specify the private key file for the SSL connection")
139             parser.add_option_group(group)
140             
141         # Testing Group
142         group = optparse.OptionGroup(parser, "Testing Configuration")
143         group.add_option("--test-disable", action="store_true", dest="test_disable",
144                          default=False, help="Disable loading test files.")
145         group.add_option("--test-no-rollback", action="store_false", dest="test_rollback",
146                          default=True, help="Don't rollback after running test.")
147         group.add_option("--test-continue", action="store_true", dest="test_continue",
148                          default=False, help="Display exception but then test should continue.")
149         parser.add_option_group(group)
150         
151         # Logging Group
152         group = optparse.OptionGroup(parser, "Logging Configuration")
153         group.add_option("--logfile", dest="logfile", help="file where the server log will be stored")
154         group.add_option("--no-logrotate", dest="logrotate", action="store_false",
155                          default=None, help="do not rotate the logfile")
156         group.add_option("--syslog", action="store_true", dest="syslog",
157                          default=False, help="Send the log to the syslog server")
158         group.add_option('--log-level', dest='log_level', type='choice', choices=self._LOGLEVELS.keys(),
159                          help='specify the level of the logging. Accepted values: ' + str(self._LOGLEVELS.keys()))
160         parser.add_option_group(group)
161
162         # SMTP Group
163         group = optparse.OptionGroup(parser, "SMTP Configuration")
164         group.add_option('--email-from', dest='email_from', default='', help='specify the SMTP email address for sending email')
165         group.add_option('--smtp', dest='smtp_server', default='', help='specify the SMTP server for sending email')
166         group.add_option('--smtp-port', dest='smtp_port', default='25', help='specify the SMTP port', type="int")
167         if self.has_ssl:
168             group.add_option('--smtp-ssl', dest='smtp_ssl', default='', help='specify the SMTP server support SSL or not')
169         group.add_option('--smtp-user', dest='smtp_user', default='', help='specify the SMTP username for sending email')
170         group.add_option('--smtp-password', dest='smtp_password', default='', help='specify the SMTP password for sending email')
171         parser.add_option_group(group)
172
173         group = optparse.OptionGroup(parser, "Database related options")
174         group.add_option("-d", "--database", dest="db_name", help="specify the database name")
175         group.add_option("-r", "--db_user", dest="db_user", help="specify the database user name")
176         group.add_option("-w", "--db_password", dest="db_password", help="specify the database password")
177         group.add_option("--pg_path", dest="pg_path", help="specify the pg executable path")
178         group.add_option("--db_host", dest="db_host", help="specify the database host")
179         group.add_option("--db_port", dest="db_port", help="specify the database port", type="int")
180         group.add_option("--db_maxconn", dest="db_maxconn", default='64',
181                          help="specify the the maximum number of physical connections to posgresql")
182         group.add_option("-P", "--import-partial", dest="import_partial",
183                          help="Use this for big data importation, if it crashes you will be able to continue at the current state. Provide a filename to store intermediate importation states.", default=False)
184         parser.add_option_group(group)
185
186         group = optparse.OptionGroup(parser, "Internationalisation options",
187             "Use these options to translate OpenERP to another language."
188             "See i18n section of the user manual. Option '-d' is mandatory."
189             "Option '-l' is mandatory in case of importation"
190             )
191
192         group.add_option('-l', "--language", dest="language",
193                          help="specify the language of the translation file. Use it with --i18n-export or --i18n-import")
194         group.add_option("--i18n-export", dest="translate_out",
195                          help="export all sentences to be translated to a CSV file, a PO file or a TGZ archive and exit")
196         group.add_option("--i18n-import", dest="translate_in",
197                          help="import a CSV or a PO file with translations and exit. The '-l' option is required.")
198         group.add_option("--modules", dest="translate_modules",
199                          help="specify modules to export. Use in combination with --i18n-export")
200         group.add_option("--addons-path", dest="addons_path",
201                          help="specify an alternative addons path.",
202                          action="callback", callback=self._check_addons_path, nargs=1, type="string")
203         parser.add_option_group(group)
204
205     def parse_config(self):
206         (opt, args) = self.parser.parse_args()
207
208         def die(cond, msg):
209             if cond:
210                 print msg
211                 sys.exit(1)
212
213         die(bool(opt.syslog) and bool(opt.logfile),
214             "the syslog and logfile options are exclusive")
215
216         die(opt.translate_in and (not opt.language or not opt.db_name),
217             "the i18n-import option cannot be used without the language (-l) and the database (-d) options")
218
219         die(opt.translate_out and (not opt.db_name),
220             "the i18n-export option cannot be used without the database (-d) option")
221
222         # Check if the config file exists (-c used, but not -s)
223         die(not opt.save and opt.config and not os.path.exists(opt.config),
224             "The config file '%s' selected with -c/--config doesn't exist, "\
225             "use -s/--save if you want to generate it"%(opt.config))
226
227         # place/search the config file on Win32 near the server installation
228         # (../etc from the server)
229         # if the server is run by an unprivileged user, he has to specify location of a config file where he has the rights to write,
230         # else he won't be able to save the configurations, or even to start the server...
231         if os.name == 'nt':
232             rcfilepath = os.path.join(os.path.abspath(os.path.dirname(sys.argv[0])), 'openerp-server.conf')
233         else:
234             rcfilepath = os.path.expanduser('~/.openerp_serverrc')
235
236         self.rcfile = os.path.abspath(
237             self.config_file or opt.config \
238                 or os.environ.get('OPENERP_SERVER') or rcfilepath)
239         self.load()
240
241
242         # Verify that we want to log or not, if not the output will go to stdout
243         if self.options['logfile'] in ('None', 'False'):
244             self.options['logfile'] = False
245         # the same for the pidfile
246         if self.options['pidfile'] in ('None', 'False'):
247             self.options['pidfile'] = False
248
249         keys = ['interface', 'port', 'db_name', 'db_user', 'db_password', 'db_host',
250                 'db_port', 'list_db', 'logfile', 'pidfile', 'smtp_port', 'cache_timeout',
251                 'email_from', 'smtp_server', 'smtp_user', 'smtp_password', 'price_accuracy',
252                 'netinterface', 'netport', 'db_maxconn', 'import_partial', 'addons_path',
253                 'netrpc', 'xmlrpc', 'syslog', 'without_demo', 'timezone',]
254
255         if self.has_ssl:
256             keys.extend(['smtp_ssl', 'secure_cert_file', 'secure_pkey_file'])
257             keys.append('secure')
258
259         for arg in keys:
260             if getattr(opt, arg):
261                 self.options[arg] = getattr(opt, arg)
262
263         keys = ['language', 'translate_out', 'translate_in', 'debug_mode',
264                 'stop_after_init', 'logrotate', 'without_demo', 'netrpc', 'xmlrpc', 'syslog', 'list_db']
265
266         if self.has_ssl and not self.options['secure']:
267             keys.append('secure')
268
269         for arg in keys:
270             if getattr(opt, arg) is not None:
271                 self.options[arg] = getattr(opt, arg)
272
273         if opt.assert_exit_level:
274             self.options['assert_exit_level'] = self._LOGLEVELS[opt.assert_exit_level]
275         else:
276             self.options['assert_exit_level'] = self._LOGLEVELS.get(self.options['assert_exit_level']) or int(self.options['assert_exit_level'])
277
278         if opt.log_level:
279             self.options['log_level'] = self._LOGLEVELS[opt.log_level]
280         else:
281             self.options['log_level'] = self._LOGLEVELS.get(self.options['log_level']) or int(self.options['log_level'])
282
283         if not self.options['root_path'] or self.options['root_path']=='None':
284             self.options['root_path'] = os.path.abspath(os.path.dirname(sys.argv[0]))
285         if not self.options['addons_path'] or self.options['addons_path']=='None':
286             self.options['addons_path'] = os.path.join(self.options['root_path'], 'addons')
287
288         self.options['init'] = opt.init and dict.fromkeys(opt.init.split(','), 1) or {}
289         self.options["demo"] = not opt.without_demo and self.options['init'] or {}
290         self.options["test-disable"] =  opt.test_disable
291         self.options["test-rollback"] =  opt.test_rollback
292         self.options["test-continue"] =  opt.test_continue
293         self.options['update'] = opt.update and dict.fromkeys(opt.update.split(','), 1) or {}
294
295         self.options['translate_modules'] = opt.translate_modules and map(lambda m: m.strip(), opt.translate_modules.split(',')) or ['all']
296         self.options['translate_modules'].sort()
297
298         if self.options['timezone']:
299             # If an explicit TZ was provided in the config, make sure it is known
300             try:
301                 import pytz
302                 tz = pytz.timezone(self.options['timezone'])
303             except pytz.UnknownTimeZoneError:
304                 die(True, "The specified timezone (%s) is invalid" % self.options['timezone'])
305             except:
306                 # If pytz is missing, don't check the provided TZ, it will be ignored anyway.
307                 pass
308
309         if opt.pg_path:
310             self.options['pg_path'] = opt.pg_path
311
312         if self.options.get('language', False):
313             if len(self.options['language']) > 5:
314                 raise Exception('ERROR: The Lang name must take max 5 chars, Eg: -lfr_BE')
315
316         if not self.options['db_user']:
317             try:
318                 import getpass
319                 self.options['db_user'] = getpass.getuser()
320             except:
321                 self.options['db_user'] = None
322
323         die(not self.options['db_user'], 'ERROR: No user specified for the connection to the database')
324
325         if self.options['db_password']:
326             if sys.platform == 'win32' and not self.options['db_host']:
327                 self.options['db_host'] = 'localhost'
328             #if self.options['db_host']:
329             #    self._generate_pgpassfile()
330
331         if opt.save:
332             self.save()
333
334     def _generate_pgpassfile(self):
335         """
336         Generate the pgpass file with the parameters from the command line (db_host, db_user,
337         db_password)
338
339         Used because pg_dump and pg_restore can not accept the password on the command line.
340         """
341         is_win32 = sys.platform == 'win32'
342         if is_win32:
343             filename = os.path.join(os.environ['APPDATA'], 'pgpass.conf')
344         else:
345             filename = os.path.join(os.environ['HOME'], '.pgpass')
346
347         text_to_add = "%(db_host)s:*:*:%(db_user)s:%(db_password)s" % self.options
348
349         if os.path.exists(filename):
350             content = [x.strip() for x in file(filename, 'r').readlines()]
351             if text_to_add in content:
352                 return
353
354         fp = file(filename, 'a+')
355         fp.write(text_to_add + "\n")
356         fp.close()
357
358         if is_win32:
359             import _winreg
360             x=_winreg.ConnectRegistry(None,_winreg.HKEY_LOCAL_MACHINE)
361             y = _winreg.OpenKey(x, r"SYSTEM\CurrentControlSet\Control\Session Manager\Environment", 0,_winreg.KEY_ALL_ACCESS)
362             _winreg.SetValueEx(y,"PGPASSFILE", 0, _winreg.REG_EXPAND_SZ, filename )
363             _winreg.CloseKey(y)
364             _winreg.CloseKey(x)
365         else:
366             import stat
367             os.chmod(filename, stat.S_IRUSR + stat.S_IWUSR)
368
369     def _check_addons_path(self, option, opt, value, parser):
370         res = os.path.abspath(os.path.expanduser(value))
371         if not os.path.exists(res):
372             raise optparse.OptionValueError("option %s: no such directory: %r" % (opt, value))
373
374         contains_addons = False
375         for f in os.listdir(res):
376             modpath = os.path.join(res, f)
377             if os.path.isdir(modpath) and \
378                os.path.exists(os.path.join(modpath, '__init__.py')) and \
379                (os.path.exists(os.path.join(modpath, '__openerp__.py')) or \
380                 os.path.exists(os.path.join(modpath, '__terp__.py'))):
381
382                 contains_addons = True
383                 break
384
385         if not contains_addons:
386             raise optparse.OptionValueError("option %s: The addons-path %r does not seem to a be a valid Addons Directory!" % (opt, value))
387
388         setattr(parser.values, option.dest, res)
389
390     def load(self):
391         p = ConfigParser.ConfigParser()
392         try:
393             p.read([self.rcfile])
394             for (name,value) in p.items('options'):
395                 if value=='True' or value=='true':
396                     value = True
397                 if value=='False' or value=='false':
398                     value = False
399                 self.options[name] = value
400             #parse the other sections, as well
401             for sec in p.sections():
402                 if sec == 'options':
403                     continue
404                 if not self.misc.has_key(sec):
405                     self.misc[sec]= {}
406                 for (name, value) in p.items(sec):
407                     if value=='True' or value=='true':
408                         value = True
409                     if value=='False' or value=='false':
410                         value = False
411                     self.misc[sec][name] = value
412         except IOError:
413             pass
414         except ConfigParser.NoSectionError:
415             pass
416
417     def save(self):
418         p = ConfigParser.ConfigParser()
419         loglevelnames = dict(zip(self._LOGLEVELS.values(), self._LOGLEVELS.keys()))
420         p.add_section('options')
421         for opt in self.options.keys():
422             if opt in ('version', 'language', 'translate_out', 'translate_in', 'init', 'update'):
423                 continue
424             if opt in ('log_level', 'assert_exit_level'):
425                 p.set('options', opt, loglevelnames.get(self.options[opt], self.options[opt]))
426             else:
427                 p.set('options', opt, self.options[opt])
428
429         for sec in self.misc.keys():
430             for opt in self.misc[sec].keys():
431                 p.set(sec,opt,self.misc[sec][opt])
432
433         # try to create the directories and write the file
434         try:
435             if not os.path.exists(os.path.dirname(self.rcfile)):
436                 os.makedirs(os.path.dirname(self.rcfile))
437             try:
438                 p.write(file(self.rcfile, 'w'))
439                 os.chmod(self.rcfile, 0600)
440             except IOError:
441                 sys.stderr.write("ERROR: couldn't write the config file\n")
442
443         except OSError:
444             # what to do if impossible?
445             sys.stderr.write("ERROR: couldn't create the config directory\n")
446
447     def get(self, key, default=None):
448         return self.options.get(key, default)
449
450     def get_misc(self, sect, key, default=None):
451         return self.misc.get(sect,{}).get(key, default)
452
453     def __setitem__(self, key, value):
454         self.options[key] = value
455
456     def __getitem__(self, key):
457         return self.options[key]
458
459 config = configmanager()
460
461 # FIXME:following line should be called explicitly by the server
462 # when it starts, to allow doing 'import tools.config' from
463 # other python executables without parsing *their* args.
464 config.parse_config()
465
466 # vim:expandtab:smartindent:tabstop=4:softtabstop=4:shiftwidth=4:
467