ИИ оказался близок к пределу своих возможностей

Илья Сутскевер, сооснователь OpenAI, выразил беспокойство по поводу того, что традиционные методы масштабирования могут достичь своих пределов. Он отметил, что в 2010-е годы был достигнут быстрый прогресс, но будущее потребует новых подходов для расширения возможностей ИИ.

Эксперты указывают на серьезную проблему: нехватку новых качественных текстовых данных для обучения. По мере того как модели ИИ исчерпывают доступные данные из Интернета и опубликованных текстов, исследователи предупреждают, что запас данных может быть полностью использован к 2032 году.

В ответ компании исследуют синтетические данные и улучшения в моделях рассуждения, но эти стратегии все еще находятся под сомнением.

По мере того как ИИ подходит к своим нынешним пределам, следующий прорыв может лежать в специализации отдельно взятой модели, а не в масштабировании.