Технический директор GigaChat Сбербанка Федор Минькин в эфире телеканала «Россия 24» рассказал, как нейросети способны запутывать себя.
В нейросеть от «Сбера» внедрили функцию рассуждения. Данная функция позволяет провести более качественный анализ, а также к минимуму свести «галлюцинации». Речь идет о тех ответах, когда нейросеть, не зная ответа, придумывает его.
«Мы тестировали на нерешаемой задаче. Даешь ей нерешаемую задачу и просишь доказать, например, теорему, у которой пока нет решения. И нейросеть начинает: »Мне говорят в интернете, что решения нет, но я попробую». Так попробовала, иначе, иногда уходит до часовых рассуждений, в которых сама запутывается, но после говорит: «Нет, решения нету все же», – рассказал Минькин.
При этом, отмечает эксперт, функционал рассуждений действительно позволяет расширить возможности ИИ.
«Рассуждения созданы, чтобы сделать справочный материал, предварительный анализ и потом получить ответ, который по-другому получить нельзя было бы», – добавил он.
Ранее председатель правления Сбербанка Герман Греф рассказал в интервью телеканалу «Россия 1» о новой версии российской нейросети GigaChat.
