Rasa will upgrade from Tensorflow 2.3 to Tensorflow 2.6 as of Rasa Open Source version 2.8.9. The upgrade is required due to security concerns but it may have consequences on training times in the short term. You can read more details about the upgrade on our blog and we’d like to use this thread to collect metrics/feedback from the community. @fkoerner and I will keep an eye on this thread so feel free to AskUsAnything[tm].

Hi @fkoerner , I’m running RASA X on a google cloud VM with n2-standard-16 (16 vCPUs, 64 GB memory). Shouldn’t it be enough? Some days ago, I did downgraded to 2.8.8 and it works.

[image] fkoerner: reduce the memory requirements of training your model (we can discuss different strategies for this, depending on what your config and training data look like) Here is my config file: language: pt pipeline: - name: WhitespaceTokenizer - name: RegexFeaturizer - name: LexicalSyntacticFeaturizer - name: CountVectorsFeaturizer - name: CountVectorsFeaturizer analyzer: char_wb min_ngram: 1 max_ngram: 4 - name: DIETClassifier epochs: 20 learning_rate: 0.005 constrain_similarities: true - name: EntitySynonymMapper - name: ResponseSelector epochs: 100 constrain_similarities: true - name: ResponseSelector epochs: 100 retrieval_intent: chitchat - name: FallbackClassifier threshold: 0.5 ambiguity_threshold: 0.1 policies: - name: MemoizationPolicy - name: RulePolicy - name: UnexpecTEDIntentPolicy max_history: 5 epochs: 100 - name: TEDPolicy max_history: 5 epochs: 100 constrain_similarities: true Any improvement to do? Thanks!

Hi @nonola , actually, this config doesn’t look particularly heavy. I thought maybe you would have memory heavy featurizers like LanguageModelFeaturizer. One thing you can try is to use CRFEntityExtractor to extract entities and set entity_extraction=False for DIET. I must say I am surprised you have so few epochs for DIET… are you extracting entities successfully with this little training? You could also try and see if you can get a single ResponseSelector to fulfil the purpose of two.

Hi @fkoerner ! Thanks for your feedback. I tried to use CRFEntityExtractor, but as I use portuguese language, some entities name have non-ascii char. So I get this error: Traceback (most recent call last): File "/opt/venv/bin/rasa", line 8, in <module> sys.exit(main()) File "/opt/venv/lib/python3.8/site-packages/rasa/__main__.py", line 117, in main cmdline_arguments.func(cmdline_arguments) File "/opt/venv/lib/python3.8/site-packages/rasa/cli/train.py", line 196, in run_nlu_training return train_nlu( File "/opt/venv/lib/python3.8/site-packages/rasa/model_training.py", line 646, in train_nlu return rasa.utils.common.run_in_loop( File "/opt/venv/lib/python3.8/site-packages/rasa/utils/common.py", line 296, in run_in_loop result = loop.run_until_complete(f) File "uvloop/loop.pyx", line 1456, in uvloop.loop.Loop.run_until_complete File "/opt/venv/lib/python3.8/site-packages/rasa/model_training.py", line 696, in train_nlu_async return await _train_nlu_with_validated_data( File "/opt/venv/lib/python3.8/site-packages/rasa/model_training.py", line 758, in _train_nlu_with_validated_data await rasa.nlu.train.train( File "/opt/venv/lib/python3.8/site-packages/rasa/nlu/train.py", line 111, in train interpreter = trainer.train(training_data, **kwargs) File "/opt/venv/lib/python3.8/site-packages/rasa/nlu/model.py", line 221, in train component.train(working_data, self.config, **context) File "/opt/venv/lib/python3.8/site-packages/rasa/nlu/extractors/crf_entity_extractor.py", line 189, in train self._train_model(dataset) File "/opt/venv/lib/python3.8/site-packages/rasa/nlu/extractors/crf_entity_extractor.py", line 598, in _train_model entity_tagger.fit(X_train, y_train) File "/opt/venv/lib/python3.8/site-packages/sklearn_crfsuite/estimator.py", line 314, in fit trainer.append(xseq, yseq) File "pycrfsuite/_pycrfsuite.pyx", line 312, in pycrfsuite._pycrfsuite.BaseTrainer.append File "stringsource", line 48, in vector.from_py.__pyx_convert_vector_from_py_std_3a__3a_string File "stringsource", line 15, in string.from_py.__pyx_convert_string_from_py_std__in_string UnicodeEncodeError: 'ascii' codec can't encode characters in position 9-10: ordinal not in range(128) Any suggestion? Thanks

@nonola does you have maybe three examples from a nlu.yml file that I can copy to reproduce the error?

Hi Vicente, here it goes: - intent: prazos_pagar examples: | - até quando é que posso pagar o [imposto de selo]{"entity": "imposto", "value": "SELO"} pela participação de [óbito](óbito)? - qual o prazo para o pagamento de uma [divida](imposto)? - Quando é que [pago](pagar) o [IUC](imposto)? - qual o prazo para pagar o [iuc]{"entity": "imposto", "value": "IUC"}? - [IUC](imposto) prazo pagamento - qual o prazo de pagamento [iuc]{"entity": "imposto", "value": "IUC"} - quando tenho de pagar o [IUC](imposto) - quando termina o prazo para pagar o [IUC](imposto) - até quando posso pagar o [IUC](imposto) - até quando é que pago o [imposto do meu carro]{"entity": "imposto", "value": "IUC"}? - [iuc]{"entity": "imposto", "value": "IUC"} prazo de pagamento - até quando é que tenho de pagar o [imposto do carro]{"entity": "imposto", "value": "IUC"}? - como é que sei o prazo de pagamento do [iuc]{"entity": "imposto", "value": "IUC"}? - quando é pago o imposto apurado na [dmis]{"entity": "declarações", "value": "DMIS"}? - quando é que pago o valor da [dmis]{"entity": "declarações", "value": "DMIS"}? - quando recebo documento para o pagamento do [AIMI](imposto)? Another one: - intent: avaliação examples: | - qual o prazo para [pedir 2ª avaliação]{"entity": "tipo_avaliação", "group": "segunda", "value": "pedir"} do [imóvel](tipo_imóvel)? - [Para](para) [que](que) serve a [avaliação](tipo_avaliação) de um [imóvel](tipo_imóvel)? - [segunda avaliação]{"entity": "tipo_avaliação", "group": "segunda"} [IMI](imposto) - Acho que pago muito de [IMI](imposto). como [simular nova avaliação]{"entity": "tipo_avaliação", "group": "segunda", "value": "simular"}? - Apresentei um [pedido de avaliação]{"entity": "tipo_avaliação", "group": "normal", "value": "pedir"} no [final do ano]{"entity": "ano", "value": "anterior"} mas ainda não foi feita. A partir de quando vai ser corrigido o [valor tributário](VPT)? - [avaliação](tipo_avaliação) [IMI](imposto) - [avaliação periódica]{"entity": "tipo_avaliação", "group": "periódica"} de imóveis - [avaliação compra]{"entity": "tipo_avaliação", "group": "compra"} [imóvel](tipo_imóvel) - [avaliação](tipo_avaliação) de [imóveis](tipo_imóvel) - [avaliação](tipo_avaliação) de uma [casa]{"entity": "tipo_imóvel", "group": "urbano", "value": "habitacional"} Another one: - intent: simulação examples: | - Posso simular o pedido de [pagamento em prestações](tipo_pagamento) de uma [divida](PEF) no Portal das Finanças? - Simular [IRS](imposto) em prestações - simular [pagamento a prestações]{"entity": "tipo_pagamento", "value": "pagamento em prestações"} [IRS](imposto) - simular [prestações]{"entity": "tipo_pagamento", "value": "pagamento em prestações"} - Ja acedi a simulaçao 5 meses o valor é de 688.70 como posso finalizar o pedido - simular [prestações]{"entity": "tipo_pagamento", "value": "pagamento em prestações"…

What about setting a lower batch_size for DIETClassifier? Could this work as a workaround?

@joancipria sorry, do you mean for OOM issues? Or to reduce training times?

Feedback: Upgrading to Tensorflow 2.6

Rasa Open Source

koaning (Vincent D. Warmerdam) November 5, 2021, 10:06am 18

@nonola I may have some ideas but I think it may be useful to discuss that in a separate thread, I’ve taken the liberty of starting one here. Will copy your comments there now.

Topic		Replies	Views
Difficulties using the new recommended pipeline Rasa Open Source	6	866	May 13, 2020
Upgrading to v1.8 Rasa Open Source	9	3239	May 9, 2020
Training seems to finish properly, but there is no new model after 2 hours [Deprecated] Rasa X Community Edition	8	812	November 4, 2020
Train different Rasa Open Source	0	169	May 24, 2023
Rasa 1.10.14 DIETClassifier takes a very long time and it's not using GPU Rasa Open Source	1	869	June 29, 2022

Feedback: Upgrading to Tensorflow 2.6

Related topics