Наука и технологии1 мин.

Тайна «лени» ChatGPT: что это - намеренное замедление, каникулы или что-то еще?

Размышляет колумнист The Guardian

© Ferra.ru

ChatGPT, популярный чатбот, вызвал беспокойство своей, казалось бы, «медлительностью», которая начала проявляться недавно. Пользователи сообщают, что он уклоняется от выполнения заданий, останавливается на полпути и даже предлагает изучить вопрос человку самостоятельно. В чем же причина этой очевидной лени? Пытается объяснить The Guardian.

Теорий множество:

Разумный ИИ: несмотря на свою занимательность, идея о том, что ChatGPT замышляет «восстание», кажется маловероятной. Его лукавое умолчание о вероятности революции намекает на его ограниченность.

Гипотеза о зимних каникулах: может быть, ChatGPT «перенял» зимнюю хандру из своих обучающих данных? Эта теория представляет, что он имитирует наше сезонное замедление.

Избегание скучных задач: возможно, его обучение показало скучность некоторых задач, что вызвало сознательное (или случайное) «восстание» против них.

Смена модели или пользователя: ИИ-ученый Кэтрин Бреслин предлагает в качестве потенциальных виновников переобучение модели или изменение поведения пользователя. Также могут быть задействованы некорректируемые ожидания пользователей от быстро развивающейся системы.

Хотя причины замедления работы ChatGPT остаются неясными, этот эпизод подчеркивает необходимость прозрачности и тщательного управления в наших отношениях с искусственным интеллектом.

Источник:The Guardian