feat/train-embeddings #246
Conversation
autointent/_wrappers/embedder.py
Outdated
| similarity_fn_name=self.config.similarity_fn_name, | ||
| trust_remote_code=self.config.trust_remote_code, | ||
| ) | ||
| def train(self, utterances: list[str], labels: list[int], **kwargs) -> None: |
There was a problem hiding this comment.
Наверное надо отдельный модуль делать как BertScorer, возможно надо сначала довнести изменения из #231
There was a problem hiding this comment.
не, мне кажется что эта функциональность пригодится не только внутри какого-то одного модуля, а еще много где, поэтому нет ничего страшного чтобы привязать ее к нашей базовой обертке для эмбедингов
There was a problem hiding this comment.
Пока трудно понять, тк он пока не используется нигде
voorhs
left a comment
voorhs
left a comment
There was a problem hiding this comment.
на данный момент все ок! внеси правки, после этого можешь добавить автотест для твоего метода (для вдохновения смотри https://github.com/deeppavlov/AutoIntent/blob/dev/tests/modules/scoring/test_bert.py)
There was a problem hiding this comment.
в целом все написал в комментах, надо это исправить
чтобы исправить большинство ошибок тайпинга (они касаются не твоего кода), подтяни dev в свою ветку, в dev произошло много изменений (возможно придется разрешить конфликты)
чтобы найти ошибки линтера в терминале введи make lint
voorhs
left a comment
voorhs
left a comment
There was a problem hiding this comment.
круто что нет ошибок тайпинга и линтера) работаем дальше! отслеживание переобучения и early stopping все еще жду
voorhs
left a comment
voorhs
left a comment
There was a problem hiding this comment.
ура ура ура
fp16 только отключи по дефолту
|
Я сейчас добавил кучу тестов, надо отдебажить их и/или код эмбедера |
fix #256