Ученые нашли способ уменьшить ошибки ИИ

Ученые из DeepMind разработали новый метод, который помогает определять случаи, когда крупными языковыми моделями (LLM) должна воздержаться от ответа, например, сказать «я не знаю», чтобы избежать ошибок. Эта процедура основана на самооценке модели, сравнивающей свои возможные ответы.