3c825274ae3f8cc5eae61db637dde8bc57f1c50f
[tiramisu.git] / tiramisu / option / baseoption.py
1 # -*- coding: utf-8 -*-
2 # Copyright (C) 2014 Team tiramisu (see AUTHORS for all contributors)
3 #
4 # This program is free software: you can redistribute it and/or modify it
5 # under the terms of the GNU Lesser General Public License as published by the
6 # Free Software Foundation, either version 3 of the License, or (at your
7 # option) any later version.
8 #
9 # This program is distributed in the hope that it will be useful, but WITHOUT
10 # ANY WARRANTY; without even the implied warranty of MERCHANTABILITY or FITNESS
11 # FOR A PARTICULAR PURPOSE.  See the GNU Lesser General Public License for more
12 # details.
13 #
14 # You should have received a copy of the GNU Lesser General Public License
15 # along with this program.  If not, see <http://www.gnu.org/licenses/>.
16 #
17 # The original `Config` design model is unproudly borrowed from
18 # the rough pypy's guys: http://codespeak.net/svn/pypy/dist/pypy/config/
19 # the whole pypy projet is under MIT licence
20 # ____________________________________________________________
21 import re
22 from types import FunctionType
23 import warnings
24 import sys
25 from inspect import getargspec
26
27 from ..i18n import _
28 from ..setting import log, undefined, debug
29 from ..autolib import carry_out_calculation
30 from ..error import (ConfigError, ValueWarning, PropertiesOptionError,
31                      display_list)
32 from ..storage import get_storages_option
33 from . import MasterSlaves
34
35 if sys.version_info[0] >= 3:  # pragma: optional cover
36     xrange = range
37
38
39 StorageBase = get_storages_option('base')
40 submulti = 2
41 name_regexp = re.compile(r'^[a-z][a-zA-Z\d\-_]*$')
42 forbidden_names = frozenset(['iter_all', 'iter_group', 'find', 'find_first',
43                              'make_dict', 'unwrap_from_path', 'read_only',
44                              'read_write', 'getowner', 'set_contexts'])
45 allowed_const_list = ['_cons_not_equal']
46
47
48 def valid_name(name):
49     "an option's name is a str and does not start with 'impl' or 'cfgimpl'"
50     if not isinstance(name, str):  # pragma: optional cover
51         return False
52     if re.match(name_regexp, name) is not None and \
53             name not in forbidden_names and \
54             not name.startswith('impl_') and \
55             not name.startswith('cfgimpl_'):
56         return True
57     else:  # pragma: optional cover
58         return False
59
60
61 def validate_callback(callback, callback_params, type_):
62     if not isinstance(callback, FunctionType):  # pragma: optional cover
63         raise ValueError(_('{0} must be a function').format(type_))
64     if callback_params is not None:
65         if not isinstance(callback_params, dict):  # pragma: optional cover
66             raise ValueError(_('{0}_params must be a dict').format(type_))
67         for key, callbacks in callback_params.items():
68             if key != '' and len(callbacks) != 1:  # pragma: optional cover
69                 raise ValueError(_("{0}_params with key {1} mustn't have "
70                                    "length different to 1").format(type_,
71                                                                    key))
72             if not isinstance(callbacks, tuple):  # pragma: optional cover
73                 raise ValueError(_('{0}_params must be tuple for key "{1}"'
74                                   ).format(type_, key))
75             for callbk in callbacks:
76                 if isinstance(callbk, tuple):
77                     if len(callbk) == 1:
78                         if callbk not in  ((None,), ('index',)):  # pragma: optional cover
79                             raise ValueError(_('{0}_params with length of '
80                                                'tuple as 1 must only have '
81                                                'None as first value'))
82                     elif len(callbk) != 2:  # pragma: optional cover
83                         raise ValueError(_('{0}_params must only have 1 or 2 '
84                                            'as length'))
85                     else:
86                         option, force_permissive = callbk
87                         if not isinstance(option, Option) and not \
88                                 isinstance(option, SymLinkOption):  # pragma: optional cover
89                             raise ValueError(_('{}_params must have an option'
90                                                ' not a {} for first argument'
91                                               ).format(type_, type(option)))
92                         if force_permissive not in [True, False]:  # pragma: optional cover
93                             raise ValueError(_('{}_params must have a boolean'
94                                                ' not a {} for second argument'
95                                               ).format(type_, type(
96                                                   force_permissive)))
97 #____________________________________________________________
98 #
99
100
101 class Base(StorageBase):
102     __slots__ = tuple()
103
104     def __init__(self, name, doc, default=None, default_multi=None,
105                  requires=None, multi=False, unique=undefined, callback=None,
106                  callback_params=None, validator=None, validator_params=None,
107                  properties=None, warnings_only=False, extra=None,
108                  allow_empty_list=undefined, session=None):
109         if not valid_name(name):  # pragma: optional cover
110             raise ValueError(_("invalid name: {0} for option").format(name))
111         if not multi and default_multi is not None:  # pragma: optional cover
112             raise ValueError(_("default_multi is set whereas multi is False"
113                              " in option: {0}").format(name))
114         if multi is True:
115             is_multi = True
116             _multi = 0
117         elif multi is False:
118             is_multi = False
119             _multi = 1
120         elif multi is submulti:
121             is_multi = True
122             _multi = submulti
123         else:
124             raise ValueError(_('invalid multi value'))
125         if unique != undefined and not isinstance(unique, bool):
126             raise ValueError(_('unique must be a boolean'))
127         if not is_multi and unique is True:
128             raise ValueError(_('unique must be set only with multi value'))
129         if requires is not None:
130             calc_properties, requires = validate_requires_arg(is_multi,
131                                                               requires, name)
132         else:
133             calc_properties = frozenset()
134             requires = undefined
135         if properties is None:
136             properties = tuple()
137         if not isinstance(properties, tuple):  # pragma: optional cover
138             raise TypeError(_('invalid properties type {0} for {1},'
139                               ' must be a tuple').format(
140                                   type(properties),
141                                   name))
142         if validator is not None:
143             if multi:  # and validator_params is None:
144                 validator_params = self._build_validator_params(validator, validator_params)
145
146             validate_callback(validator, validator_params, 'validator')
147             self._set_validator(validator, validator_params)
148             self._set_has_dependency()
149         if calc_properties != frozenset([]) and properties is not tuple():  # pragma: optional cover
150             set_forbidden_properties = calc_properties & set(properties)
151             if set_forbidden_properties != frozenset():
152                 raise ValueError('conflict: properties already set in '
153                                  'requirement {0}'.format(
154                                      list(set_forbidden_properties)))
155         if session is None:
156             session = self.getsession()
157         StorageBase.__init__(self, name, _multi, warnings_only, doc, extra,
158                              calc_properties, requires, properties,
159                              allow_empty_list, unique, session=session)
160         if multi is not False and default is None:
161             default = []
162         err = self.impl_validate(default, is_multi=is_multi)
163         if err:
164             raise err
165         self._set_default_values(default, default_multi, is_multi)
166         ##callback is False in optiondescription
167         if callback is not False:
168             self.impl_set_callback(callback, callback_params, _init=True)
169         self.commit(session)
170
171     def _build_validator_params(self, validator, validator_params):
172         func_args = getargspec(validator)
173         defaults = func_args.defaults
174         if defaults is None:
175             defaults = []
176         args = func_args.args[0:len(func_args.args)-len(defaults)]
177         if validator_params is not None:
178             kwargs = validator_params.keys()
179             if '' in kwargs:
180                 kwargs.remove('')
181             for kwarg in kwargs:
182                 if kwarg in args:
183                     args = args[0:args.index(kwarg)]
184             len_args = len(validator_params.get('', []))
185             if len_args != 0 and len(args) >= len_args:
186                 args = args[0:len(args)-len_args]
187         if len(args) >= 2:
188             if validator_params is not None and '' in validator_params:
189                 params = list(validator_params[''])
190                 params.append((self, False))
191                 validator_params[''] = tuple(params)
192             else:
193                 if validator_params is None:
194                     validator_params = {}
195                 validator_params[''] = ((self, False),)
196         if len(args) == 3 and args[2] not in validator_params:
197             params = list(validator_params[''])
198             params.append(('index',))
199             validator_params[''] = tuple(params)
200         return validator_params
201
202     def _set_has_dependency(self):
203         if not isinstance(self, SymLinkOption):
204             self._has_dependency = True
205
206     def impl_has_dependency(self):
207         return getattr(self, '_has_dependency', False)
208
209     def impl_set_callback(self, callback, callback_params=None, _init=False):
210         if callback is None and callback_params is not None:  # pragma: optional cover
211                 raise ValueError(_("params defined for a callback function but "
212                                    "no callback defined"
213                                    " yet for option {0}").format(
214                                        self.impl_getname()))
215         if not _init and self.impl_get_callback()[0] is not None:
216             raise ConfigError(_("a callback is already set for {0}, "
217                                 "cannot set another one's").format(self.impl_getname()))
218         self._validate_callback(callback, callback_params)
219         if callback is not None:
220             validate_callback(callback, callback_params, 'callback')
221             self._set_callback(callback, callback_params)
222
223     def impl_is_optiondescription(self):
224         return self.__class__.__name__ in ['OptionDescription',
225                                            'DynOptionDescription',
226                                            'SynDynOptionDescription']
227
228     def impl_is_dynoptiondescription(self):
229         return self.__class__.__name__ in ['DynOptionDescription',
230                                            'SynDynOptionDescription']
231
232
233 class BaseOption(Base):
234     """This abstract base class stands for attribute access
235     in options that have to be set only once, it is of course done in the
236     __setattr__ method
237     """
238     __slots__ = tuple()
239
240     # ____________________________________________________________
241     # serialize object
242     def _impl_convert_requires(self, descr, load=False):
243         """export of the requires during the serialization process
244
245         :type descr: :class:`tiramisu.option.OptionDescription`
246         :param load: `True` if we are at the init of the option description
247         :type load: bool
248         """
249         if not load and self.impl_getrequires() == []:
250             self._state_requires = None
251         elif load and self._state_requires is None:
252             del(self._state_requires)
253         else:
254             if load:
255                 _requires = self._state_requires
256             else:
257                 _requires = self.impl_getrequires()
258             new_value = []
259             for requires in _requires:
260                 new_requires = []
261                 for require in requires:
262                     if load:
263                         new_require = [descr.impl_get_opt_by_path(require[0])]
264                     else:
265                         new_require = [descr.impl_get_path_by_opt(require[0])]
266                     new_require.extend(require[1:])
267                     new_requires.append(tuple(new_require))
268                 new_value.append(tuple(new_requires))
269             if load:
270                 del(self._state_requires)
271                 if new_value != []:
272                     self._requires = new_value
273             else:
274                 self._state_requires = new_value
275
276     # serialize
277     def _impl_getstate(self, descr):
278         """the under the hood stuff that need to be done
279         before the serialization.
280
281         :param descr: the parent :class:`tiramisu.option.OptionDescription`
282         """
283         self._stated = True
284         for func in dir(self):
285             if func.startswith('_impl_convert_'):
286                 getattr(self, func)(descr)
287
288     def __getstate__(self, stated=True):
289         """special method to enable the serialization with pickle
290         Usualy, a `__getstate__` method does'nt need any parameter,
291         but somme under the hood stuff need to be done before this action
292
293         :parameter stated: if stated is `True`, the serialization protocol
294                            can be performed, not ready yet otherwise
295         :parameter type: bool
296         """
297         try:
298             self._stated
299         except AttributeError:  # pragma: optional cover
300             raise SystemError(_('cannot serialize Option, '
301                                 'only in OptionDescription'))
302         if isinstance(self, SymLinkOption):
303             slots = frozenset(['_name', '_state_opt', '_stated'])
304         else:
305             slots = self._impl_getattributes()
306             slots -= frozenset(['_cache_paths', '_cache_consistencies',
307                                 '__weakref__'])
308         states = {}
309         for slot in slots:
310             # remove variable if save variable converted
311             # in _state_xxxx variable
312             if '_state' + slot not in slots:
313                 try:
314                     if slot.startswith('_state'):
315                         states[slot] = getattr(self, slot)
316                         # remove _state_xxx variable
317                         self.__delattr__(slot)
318                     else:
319                         states[slot] = getattr(self, slot)
320                 except AttributeError:
321                     pass
322         if not stated:
323             del(states['_stated'])
324         return states
325
326     # unserialize
327     def _impl_setstate(self, descr):
328         """the under the hood stuff that need to be done
329         before the serialization.
330
331         :type descr: :class:`tiramisu.option.OptionDescription`
332         """
333         for func in dir(self):
334             if func.startswith('_impl_convert_'):
335                 getattr(self, func)(descr, load=True)
336         try:
337             del(self._stated)
338         except AttributeError:  # pragma: optional cover
339             pass
340
341     def __setstate__(self, state):
342         """special method that enables us to serialize (pickle)
343
344         Usualy, a `__setstate__` method does'nt need any parameter,
345         but somme under the hood stuff need to be done before this action
346
347         :parameter state: a dict is passed to the loads, it is the attributes
348                           of the options object
349         :type state: dict
350         """
351         for key, value in state.items():
352             setattr(self, key, value)
353
354     def __setattr__(self, name, value):
355         """set once and only once some attributes in the option,
356         like `_name`. `_name` cannot be changed one the option and
357         pushed in the :class:`tiramisu.option.OptionDescription`.
358
359         if the attribute `_readonly` is set to `True`, the option is
360         "frozen" (which has noting to do with the high level "freeze"
361         propertie or "read_only" property)
362         """
363         if name != '_option' and \
364                 not isinstance(value, tuple) and \
365                 not name.startswith('_state') and \
366                 not name == '_sa_instance_state':
367             is_readonly = False
368             # never change _name dans _opt
369             if name == '_name':
370                 try:
371                     if self.impl_getname() is not None:
372                         #so _name is already set
373                         is_readonly = True
374                 except (KeyError, AttributeError):
375                     pass
376             elif name == '_opt':
377                 pass
378             elif name != '_readonly':
379                 is_readonly = self.impl_is_readonly()
380             if is_readonly:  # pragma: optional cover
381                 raise AttributeError(_("'{0}' ({1}) object attribute '{2}' is"
382                                        " read-only").format(
383                                            self.__class__.__name__,
384                                            self,
385                                            #self.impl_getname(),
386                                            name))
387         super(BaseOption, self).__setattr__(name, value)
388
389     def impl_getpath(self, context):
390         return context.cfgimpl_get_description().impl_get_path_by_opt(self)
391
392     def impl_has_callback(self):
393         "to know if a callback has been defined or not"
394         return self.impl_get_callback()[0] is not None
395
396     def _is_subdyn(self):
397         return getattr(self, '_subdyn', None) is not None
398
399     def _impl_valid_unicode(self, value):
400         if sys.version_info[0] >= 3:
401             if not isinstance(value, str):
402                 return ValueError(_('invalid string'))
403         else:
404             if not isinstance(value, unicode) and not isinstance(value, str):
405                 return ValueError(_('invalid unicode or string'))
406
407     def impl_get_display_name(self):
408         name = self.impl_getdoc()
409         if name is None or name == '':
410             name = self.impl_getname()
411         return name
412
413
414 class OnlyOption(BaseOption):
415     __slots__ = tuple()
416
417
418 class Option(OnlyOption):
419     """
420     Abstract base class for configuration option's.
421
422     Reminder: an Option object is **not** a container for the value.
423     """
424     __slots__ = tuple()
425     _empty = ''
426
427     def _launch_consistency(self, current_opt, func, option, value, context,
428                             index, submulti_index, opts, warnings_only,
429                             transitive):
430         """Launch consistency now
431
432         :param func: function name, this name should start with _cons_
433         :type func: `str`
434         :param option: option that value is changing
435         :type option: `tiramisu.option.Option`
436         :param value: new value of this option
437         :param context: Config's context, if None, check default value instead
438         :type context: `tiramisu.config.Config`
439         :param index: only for multi option, consistency should be launch for
440                       specified index
441         :type index: `int`
442         :param opts: all options concerne by this consistency
443         :type opts: `list` of `tiramisu.option.Option`
444         :param warnings_only: specific raise error for warning
445         :type warnings_only: `boolean`
446         :param transitive: propertyerror is transitive
447         :type transitive: `boolean`
448         """
449         if context is not undefined:
450             descr = context.cfgimpl_get_description()
451
452         all_cons_vals = []
453         all_cons_opts = []
454         val_consistencies = True
455         for opt in opts:
456             if (isinstance(opt, DynSymLinkOption) and option._dyn == opt._dyn) or \
457                     option == opt:
458                 # option is current option
459                 # we have already value, so use it
460                 all_cons_vals.append(value)
461                 all_cons_opts.append(opt)
462             else:
463                 #if context, calculate value, otherwise get default value
464                 path = None
465                 is_multi = opt.impl_is_multi() and not opt.impl_is_master_slaves()
466                 if context is not undefined:
467                     if isinstance(opt, DynSymLinkOption):
468                         path = opt.impl_getpath(context)
469                     else:
470                         path = descr.impl_get_path_by_opt(opt)
471                     if is_multi:
472                         _index = None
473                     else:
474                         _index = index
475                     opt_value = context.getattr(path, validate=False,
476                                                 index=_index,
477                                                 force_permissive=True,
478                                                 returns_raise=True)
479                     if isinstance(opt_value, Exception):
480                         if isinstance(opt_value, PropertiesOptionError):
481                             if debug:
482                                 log.debug('propertyerror in _launch_consistency: {0}'.format(opt_value))
483                             if transitive:
484                                 return opt_value
485                             else:
486                                 opt_value = None
487                         else:
488                             return opt_value
489                 elif index is None:
490                     opt_value = opt.impl_getdefault()
491                 else:
492                     opt_value = opt.impl_getdefault()[index]
493
494                 if self.impl_is_multi() and index is None:
495                     # only check propertyerror for master/slaves is transitive
496                     val_consistencies = False
497                 if is_multi and isinstance(opt_value, list):
498                     all_cons_vals.extend(opt_value)
499                     for len_ in xrange(len(opt_value)):
500                         all_cons_opts.append(opt)
501                 else:
502                     all_cons_vals.append(opt_value)
503                     all_cons_opts.append(opt)
504
505         if val_consistencies:
506             err = getattr(self, func)(current_opt, all_cons_opts, all_cons_vals, warnings_only)
507             if err:
508                 if warnings_only:
509                     if isinstance(err, ValueError):
510                         msg = _('attention, "{0}" could be an invalid {1} for "{2}", {3}').format(
511                             value, self._display_name, current_opt.impl_get_display_name(), err)
512                     else:
513                         msg = '{}'.format(err)
514                     warnings.warn_explicit(ValueWarning(msg, self),
515                                            ValueWarning,
516                                            self.__class__.__name__, 0)
517                 else:
518                     return err
519
520     def impl_validate(self, value, context=undefined, validate=True,
521                       force_index=None, force_submulti_index=None,
522                       current_opt=undefined, is_multi=None,
523                       display_error=True, display_warnings=True, multi=None):
524         """
525         :param value: the option's value
526         :param context: Config's context
527         :type context: :class:`tiramisu.config.Config`
528         :param validate: if true enables ``self._validator`` validation
529         :type validate: boolean
530         :param force_index: if multi, value has to be a list
531                             not if force_index is not None
532         :type force_index: integer
533         :param force_submulti_index: if submulti, value has to be a list
534                                      not if force_submulti_index is not None
535         :type force_submulti_index: integer
536         """
537         if not validate:
538             return
539         if current_opt is undefined:
540             current_opt = self
541
542         display_warnings = display_warnings and (context is undefined or
543                                                  'warnings' in context.cfgimpl_get_settings())
544         def _is_not_unique(value):
545             if display_error and self.impl_is_unique() and len(set(value)) != len(value):
546                 for idx, val in enumerate(value):
547                     if val in value[idx+1:]:
548                         return ValueError(_('invalid value "{}", this value is already in "{}"').format(
549                                             val, self.impl_get_display_name()))
550
551         def calculation_validator(val, _index):
552             validator, validator_params = self.impl_get_validator()
553             if validator is not None:
554                 if validator_params != {}:
555                     validator_params_ = {}
556                     for val_param, values in validator_params.items():
557                         validator_params_[val_param] = values
558                     #inject value in calculation
559                     if '' in validator_params_:
560                         lst = list(validator_params_[''])
561                         lst.insert(0, val)
562                         validator_params_[''] = tuple(lst)
563                     else:
564                         validator_params_[''] = (val,)
565                 else:
566                     validator_params_ = {'': (val,)}
567                 # Raise ValueError if not valid
568                 value = carry_out_calculation(current_opt, context=context,
569                                               callback=validator,
570                                               callback_params=validator_params_,
571                                               index=_index)
572                 if isinstance(value, Exception):
573                     return value
574
575         def do_validation(_value, _index, submulti_index):
576             if _value is None:
577                 error = warning = None
578             else:
579                 if display_error:
580                     # option validation
581                     err = self._validate(_value, context, current_opt)
582                     if err:
583                         if debug:
584                             log.debug('do_validation: value: {0}, index: {1}, '
585                                       'submulti_index: {2}'.format(_value, _index,
586                                                                    submulti_index),
587                                       exc_info=True)
588                         err_msg = '{0}'.format(err)
589                         if err_msg:
590                             msg = _('"{0}" is an invalid {1} for "{2}", {3}'
591                                     '').format(_value, self._display_name,
592                                                self.impl_get_display_name(), err_msg)
593                         else:
594                             msg = _('"{0}" is an invalid {1} for "{2}"'
595                                     '').format(_value, self._display_name,
596                                                self.impl_get_display_name())
597                         return ValueError(msg)
598                 error = None
599                 if ((display_error and not self._is_warnings_only()) or
600                         (display_warnings and self._is_warnings_only())):
601                     error = calculation_validator(_value, _index)
602                     if not error:
603                         error = self._second_level_validation(_value, self._is_warnings_only())
604                     if error:
605                         if debug:
606                             log.debug(_('do_validation for {0}: error in value').format(
607                                 self.impl_getname()), exc_info=True)
608                         if self._is_warnings_only():
609                             msg = _('attention, "{0}" could be an invalid {1} for "{2}", {3}').format(
610                                 _value, self._display_name, self.impl_get_display_name(), error)
611                             warnings.warn_explicit(ValueWarning(msg, self),
612                                                    ValueWarning,
613                                                    self.__class__.__name__, 0)
614                             error = None
615             if error is None:
616                 # if context launch consistency validation
617                 #if context is not undefined:
618                 ret = self._valid_consistency(current_opt, _value, context,
619                                               _index, submulti_index, display_warnings,
620                                               display_error)
621                 if isinstance(ret, ValueError):
622                     error = ret
623                 elif ret:
624                     return ret
625             if error:
626                 err_msg = '{0}'.format(error)
627                 if err_msg:
628                     msg = _('"{0}" is an invalid {1} for "{2}", {3}'
629                             '').format(_value, self._display_name,
630                                        self.impl_get_display_name(), err_msg)
631                 else:
632                     msg = _('"{0}" is an invalid {1} for "{2}"'
633                             '').format(_value, self._display_name,
634                                        self.impl_get_display_name())
635                 return ValueError(msg)
636
637         if is_multi is None:
638             is_multi = self.impl_is_multi()
639
640         if not is_multi:
641             return do_validation(value, None, None)
642         elif force_index is not None:
643             if self.impl_is_submulti() and force_submulti_index is None:
644                 err = _is_not_unique(value)
645                 if err:
646                     return err
647                 if not isinstance(value, list):  # pragma: optional cover
648                     return ValueError(_('invalid value "{0}" for "{1}" which'
649                                         ' must be a list').format(
650                                            value, self.impl_get_display_name()))
651                 for idx, val in enumerate(value):
652                     if isinstance(val, list):
653                         return ValueError(_('invalid value "{}" for "{}" '
654                                             'which must not be a list').format(val,
655                                                                               self.impl_get_display_name()))
656                     err = do_validation(val, force_index, idx)
657                     if err:
658                         return err
659             else:
660                 if self.impl_is_unique() and value in multi:
661                     return ValueError(_('invalid value "{}", this value is already'
662                                         ' in "{}"').format(value,
663                                                            self.impl_get_display_name()))
664                 return do_validation(value, force_index, force_submulti_index)
665         elif not isinstance(value, list):  # pragma: optional cover
666             return ValueError(_('invalid value "{0}" for "{1}" which '
667                                 'must be a list').format(value,
668                                                          self.impl_getname()))
669         elif self.impl_is_submulti() and force_submulti_index is None:
670             for idx, val in enumerate(value):
671                 err = _is_not_unique(val)
672                 if err:
673                     return err
674                 if not isinstance(val, list):  # pragma: optional cover
675                     return ValueError(_('invalid value "{0}" for "{1}" '
676                                         'which must be a list of list'
677                                         '').format(val,
678                                                    self.impl_getname()))
679                 for slave_idx, slave_val in enumerate(val):
680                     err = do_validation(slave_val, idx, slave_idx)
681                     if err:
682                         return err
683         else:
684             err = _is_not_unique(value)
685             if err:
686                 return err
687             for idx, val in enumerate(value):
688                 err = do_validation(val, idx, force_submulti_index)
689                 if err:
690                     return err
691             return self._valid_consistency(current_opt, None, context,
692                                            None, None, display_warnings, display_error)
693
694     def impl_is_dynsymlinkoption(self):
695         return False
696
697     def impl_is_master_slaves(self, type_='both'):
698         """FIXME
699         """
700         master_slaves = self.impl_get_master_slaves()
701         if master_slaves is not None:
702             if type_ in ('both', 'master') and \
703                     master_slaves.is_master(self):
704                 return True
705             if type_ in ('both', 'slave') and \
706                     not master_slaves.is_master(self):
707                 return True
708         return False
709
710     def impl_get_master_slaves(self):
711         masterslaves = self._get_master_slave()
712         if masterslaves is None:
713             return None
714         if not isinstance(masterslaves, MasterSlaves):
715             return MasterSlaves(masterslaves)
716         return masterslaves
717
718     def impl_getdoc(self):
719         "accesses the Option's doc"
720         return self.impl_get_information('doc')
721
722     def _valid_consistencies(self, other_opts, init=True):
723         if self._is_subdyn():
724             dynod = self._impl_getsubdyn()
725         else:
726             dynod = None
727         if self.impl_is_submulti():
728             raise ConfigError(_('cannot add consistency with submulti option'))
729         is_multi = self.impl_is_multi()
730         for opt in other_opts:
731             if opt.impl_is_submulti():
732                 raise ConfigError(_('cannot add consistency with submulti option'))
733             if not isinstance(opt, Option):  # pragma: optional cover
734                 raise ConfigError(_('consistency must be set with an option'))
735             if opt._is_subdyn():
736                 if dynod is None:
737                     raise ConfigError(_('almost one option in consistency is '
738                                         'in a dynoptiondescription but not all'))
739                 if dynod != opt._impl_getsubdyn():
740                     raise ConfigError(_('option in consistency must be in same'
741                                         ' dynoptiondescription'))
742                 dynod = opt._impl_getsubdyn()
743             elif dynod is not None:
744                 raise ConfigError(_('almost one option in consistency is in a '
745                                     'dynoptiondescription but not all'))
746             if self is opt:  # pragma: optional cover
747                 raise ConfigError(_('cannot add consistency with itself'))
748             if is_multi != opt.impl_is_multi():  # pragma: optional cover
749                 raise ConfigError(_('every options in consistency must be '
750                                     'multi or none'))
751             if init:
752                 #consistency could generate warnings or errors
753                 opt._set_has_dependency()
754
755     def impl_add_consistency(self, func, *other_opts, **params):
756         """Add consistency means that value will be validate with other_opts
757         option's values.
758
759         :param func: function's name
760         :type func: `str`
761         :param other_opts: options used to validate value
762         :type other_opts: `list` of `tiramisu.option.Option`
763         :param params: extra params (warnings_only and transitive are allowed)
764         """
765         if self.impl_is_readonly():  # pragma: optional cover
766             raise AttributeError(_("'{0}' ({1}) cannot add consistency, option is"
767                                    " read-only").format(
768                                        self.__class__.__name__,
769                                        self.impl_getname()))
770         self._valid_consistencies(other_opts)
771         func = '_cons_{0}'.format(func)
772         if func not in dir(self):
773             raise ConfigError(_('consistency {0} not available for this option').format(func))
774         all_cons_opts = tuple([self] + list(other_opts))
775         unknown_params = set(params.keys()) - set(['warnings_only', 'transitive'])
776         if unknown_params != set():
777             raise ValueError(_('unknow parameter {0} in consistency').format(unknown_params))
778         self._add_consistency(func, all_cons_opts, params)
779         #validate default value when add consistency
780         err = self.impl_validate(self.impl_getdefault())
781         if err:
782             self._del_consistency()
783             raise err
784         if func in allowed_const_list:
785             for opt in all_cons_opts:
786                 if getattr(opt, '_unique', undefined) == undefined:
787                     opt._unique = True
788         #consistency could generate warnings or errors
789         self._set_has_dependency()
790
791     def _valid_consistency(self, option, value, context, index, submulti_idx,
792                            display_warnings, display_error):
793         if context is not undefined:
794             descr = context.cfgimpl_get_description()
795             if descr._cache_consistencies is None:
796                 return
797             #consistencies is something like [('_cons_not_equal', (opt1, opt2))]
798             if isinstance(option, DynSymLinkOption):
799                 consistencies = descr._cache_consistencies.get(option._impl_getopt())
800             else:
801                 consistencies = descr._cache_consistencies.get(option)
802         else:
803             consistencies = option._get_consistencies()
804         if consistencies is not None:
805             for func, all_cons_opts, params in consistencies:
806                 warnings_only = params.get('warnings_only', False)
807                 if (warnings_only and display_warnings) or (not warnings_only and display_error):
808                     transitive = params.get('transitive', True)
809                     #all_cons_opts[0] is the option where func is set
810                     if isinstance(option, DynSymLinkOption):
811                         subpath = '.'.join(option._dyn.split('.')[:-1])
812                         namelen = len(option._impl_getopt().impl_getname())
813                         suffix = option.impl_getname()[namelen:]
814                         opts = []
815                         for opt in all_cons_opts:
816                             name = opt.impl_getname() + suffix
817                             path = subpath + '.' + name
818                             opts.append(opt._impl_to_dyn(name, path))
819                     else:
820                         opts = all_cons_opts
821                     err = opts[0]._launch_consistency(self, func, option, value,
822                                                       context, index, submulti_idx,
823                                                       opts, warnings_only,
824                                                       transitive)
825                     if err:
826                         return err
827
828     def _cons_not_equal(self, current_opt, opts, vals, warnings_only):
829         equal = set()
830         is_current = False
831         for idx_inf, val_inf in enumerate(vals):
832             for idx_sup, val_sup in enumerate(vals[idx_inf + 1:]):
833                 if val_inf == val_sup is not None:
834                     for opt_ in [opts[idx_inf], opts[idx_inf + idx_sup + 1]]:
835                         if opt_ == current_opt:
836                             is_current = True
837                         else:
838                             equal.add(opt_)
839         if equal:
840             if debug:
841                 log.debug(_('_cons_not_equal: {} are not different').format(display_list(list(equal))))
842             if is_current:
843                 if warnings_only:
844                     msg = _('should be different from the value of {}')
845                 else:
846                     msg = _('must be different from the value of {}')
847             else:
848                 if warnings_only:
849                     msg = _('value for {} should be different')
850                 else:
851                     msg = _('value for {} must be different')
852             equal_name = []
853             for opt in equal:
854                 equal_name.append(opt.impl_get_display_name())
855             return ValueError(msg.format(display_list(list(equal_name))))
856
857     # serialize/unserialize
858     def _impl_convert_consistencies(self, descr, load=False):
859         """during serialization process, many things have to be done.
860         one of them is the localisation of the options.
861         The paths are set once for all.
862
863         :type descr: :class:`tiramisu.option.OptionDescription`
864         :param load: `True` if we are at the init of the option description
865         :type load: bool
866         """
867         if not load and self._get_consistencies() == ():
868             self._state_consistencies = None
869         elif load and self._state_consistencies is None:
870             del(self._state_consistencies)
871         else:
872             if load:
873                 consistencies = self._state_consistencies
874             else:
875                 consistencies = self._get_consistencies()
876             new_value = []
877             for consistency in consistencies:
878                 values = []
879                 for obj in consistency[1]:
880                     if load:
881                         values.append(descr.impl_get_opt_by_path(obj))
882                     else:
883                         values.append(descr.impl_get_path_by_opt(obj))
884                 new_value.append((consistency[0], tuple(values), consistency[2]))
885             if load:
886                 del(self._state_consistencies)
887                 for new_val in new_value:
888                     self._add_consistency(new_val[0], new_val[1], new_val[2])
889             else:
890                 self._state_consistencies = new_value
891
892     def _second_level_validation(self, value, warnings_only):
893         pass
894
895     def _impl_to_dyn(self, name, path):
896         return DynSymLinkOption(name, self, dyn=path)
897
898     def _validate_callback(self, callback, callback_params):
899         """callback_params:
900         * None
901         * {'': ((option, permissive),), 'ip': ((None,), (option, permissive))
902         """
903         if callback is None:
904             return
905         default_multi = self.impl_getdefault_multi()
906         is_multi = self.impl_is_multi()
907         default = self.impl_getdefault()
908         if (not is_multi and (default is not None or default_multi is not None)) or \
909                 (is_multi and (default != [] or default_multi is not None)):  # pragma: optional cover
910             raise ValueError(_("default value not allowed if option: {0} "
911                              "is calculated").format(self.impl_getname()))
912
913
914 def validate_requires_arg(multi, requires, name):
915     """check malformed requirements
916     and tranform dict to internal tuple
917
918     :param requires: have a look at the
919                      :meth:`tiramisu.setting.Settings.apply_requires` method to
920                      know more about
921                      the description of the requires dictionary
922     """
923     ret_requires = {}
924     config_action = set()
925
926     # start parsing all requires given by user (has dict)
927     # transforme it to a tuple
928     for require in requires:
929         if not isinstance(require, dict):  # pragma: optional cover
930             raise ValueError(_("malformed requirements type for option:"
931                                " {0}, must be a dict").format(name))
932         valid_keys = ('option', 'expected', 'action', 'inverse', 'transitive',
933                       'same_action')
934         unknown_keys = frozenset(require.keys()) - frozenset(valid_keys)
935         if unknown_keys != frozenset():  # pragma: optional cover
936             raise ValueError(_('malformed requirements for option: {0}'
937                              ' unknown keys {1}, must only '
938                              '{2}').format(name,
939                                            unknown_keys,
940                                            valid_keys))
941         # prepare all attributes
942         if 'option' not in require or 'expected' not in require or \
943                 'action' not in require:
944             raise ValueError(_("malformed requirements for option: {0}"
945                                " require must have option, expected and"
946                                " action keys").format(name))
947         option = require['option']
948         expected = require['expected']
949         action = require['action']
950         if action == 'force_store_value':  # pragma: optional cover
951             raise ValueError(_("malformed requirements for option: {0}"
952                                " action cannot be force_store_value"
953                                ).format(name))
954         inverse = require.get('inverse', False)
955         if inverse not in [True, False]:  # pragma: optional cover
956             raise ValueError(_('malformed requirements for option: {0}'
957                                ' inverse must be boolean'))
958         transitive = require.get('transitive', True)
959         if transitive not in [True, False]:  # pragma: optional cover
960             raise ValueError(_('malformed requirements for option: {0}'
961                                ' transitive must be boolean'))
962         same_action = require.get('same_action', True)
963         if same_action not in [True, False]:  # pragma: optional cover
964             raise ValueError(_('malformed requirements for option: {0}'
965                                ' same_action must be boolean'))
966
967         if not isinstance(option, Option):  # pragma: optional cover
968             raise ValueError(_('malformed requirements '
969                                'must be an option in option {0}').format(name))
970         if not multi and option.impl_is_multi():
971             raise ValueError(_('malformed requirements '
972                                'multi option must not set '
973                                'as requires of non multi option {0}').format(name))
974         if expected is not None:
975             err = option._validate(expected)
976             if err:
977                 raise ValueError(_('malformed requirements expected value '
978                                    'must be valid for option {0}'
979                                    ': {1}').format(name, err))
980         config_action.add(action)
981         if action not in ret_requires:
982             ret_requires[action] = {}
983         if option not in ret_requires[action]:
984             ret_requires[action][option] = {}
985         if inverse not in ret_requires[action][option]:
986             ret_requires[action][option][inverse] = (option, [expected], action,
987                                                      inverse, transitive, same_action)
988         else:
989             ret_requires[action][option][inverse][1].append(expected)
990     # transform dict to tuple
991     ret = []
992     for opt_requires in ret_requires.values():
993         ret_action = []
994         for requires in opt_requires.values():
995             for require in requires.values():
996                 ret_action.append((require[0], tuple(require[1]), require[2],
997                                    require[3], require[4], require[5]))
998         ret.append(tuple(ret_action))
999     return frozenset(config_action), tuple(ret)
1000
1001
1002 class SymLinkOption(OnlyOption):
1003 #    __slots__ = ('_opt', '_state_opt')
1004
1005     def __init__(self, name, opt):
1006         if not isinstance(opt, Option):  # pragma: optional cover
1007             raise ValueError(_('malformed symlinkoption '
1008                                'must be an option '
1009                                'for symlink {0}').format(name))
1010         session = self.getsession()
1011         super(Base, self).__init__(name, undefined, undefined, undefined,
1012                                    undefined, undefined, undefined, undefined,
1013                                    undefined, undefined, opt=opt, session=session)
1014         opt._set_has_dependency()
1015         self.commit(session)
1016
1017     def __getattr__(self, name, context=undefined):
1018         if name in ('_opt', '_readonly', 'impl_getpath', '_name',
1019                     '_state_opt', '_impl_setopt'):
1020             return object.__getattr__(self, name)
1021         else:
1022             return getattr(self._impl_getopt(), name)
1023
1024     def _impl_getstate(self, descr):
1025         self._stated = True
1026         self._state_opt = descr.impl_get_path_by_opt(self._impl_getopt())
1027
1028     def _impl_setstate(self, descr):
1029         self._impl_setopt(descr.impl_get_opt_by_path(self._state_opt))
1030         del(self._state_opt)
1031         del(self._stated)
1032         self._set_readonly(True)
1033
1034     def impl_get_information(self, key, default=undefined):
1035         return self._impl_getopt().impl_get_information(key, default)
1036
1037     def impl_is_readonly(self):
1038         return True
1039
1040     def impl_getproperties(self):
1041         return self._impl_getopt()._properties
1042
1043     def impl_get_callback(self):
1044         return self._impl_getopt().impl_get_callback()
1045
1046     def impl_has_callback(self):
1047         "to know if a callback has been defined or not"
1048         return self._impl_getopt().impl_has_callback()
1049
1050     def impl_is_multi(self):
1051         return self._impl_getopt().impl_is_multi()
1052
1053     def _is_subdyn(self):
1054         return getattr(self._impl_getopt(), '_subdyn', None) is not None
1055
1056     def _get_consistencies(self):
1057         return ()
1058
1059
1060 class DynSymLinkOption(object):
1061     __slots__ = ('_dyn', '_opt', '_name')
1062
1063     def __init__(self, name, opt, dyn):
1064         self._name = name
1065         self._dyn = dyn
1066         self._opt = opt
1067
1068     def __getattr__(self, name, context=undefined):
1069         if name in ('_opt', '_readonly', 'impl_getpath', '_name', '_state_opt'):
1070             return object.__getattr__(self, name)
1071         else:
1072             return getattr(self._impl_getopt(), name)
1073
1074     def impl_getname(self):
1075         return self._name
1076
1077     def _impl_getopt(self):
1078         return self._opt
1079
1080     def impl_getsuffix(self):
1081         return self._dyn.split('.')[-1][len(self._impl_getopt().impl_getname()):]
1082
1083     def impl_getpath(self, context):
1084         path = self._impl_getopt().impl_getpath(context)
1085         base_path = '.'.join(path.split('.')[:-2])
1086         if self.impl_is_master_slaves() and base_path is not '':
1087             base_path = base_path + self.impl_getsuffix()
1088         if base_path == '':
1089             return self._dyn
1090         else:
1091             return base_path + '.' + self._dyn
1092
1093     def impl_validate(self, value, context=undefined, validate=True,
1094                       force_index=None, force_submulti_index=None, is_multi=None,
1095                       display_error=True, display_warnings=True, multi=None):
1096         return self._impl_getopt().impl_validate(value, context, validate,
1097                                                  force_index,
1098                                                  force_submulti_index,
1099                                                  current_opt=self,
1100                                                  is_multi=is_multi,
1101                                                  display_error=display_error,
1102                                                  display_warnings=display_warnings,
1103                                                  multi=multi)
1104
1105     def impl_is_dynsymlinkoption(self):
1106         return True