Почему, по пунктам, ИИ не сможет заменить айтишников
© Ferra.ru
— Галлюцинации: ИИ может генерировать код, но его ошибки, известные как галлюцинации, часто приводят к абсурдным результатам. Например, ИИ может предложить решение, которое на первый взгляд выглядит правильно, но по факту содержит критические ошибки. Только специалист способен распознать такие проблемы и исправить их.
ИИ отвечает грамотным языком, — возможно, даже лучше, чем человек, — но при этом с полной уверенностью говорит странные вещи. Для примера можно привести известный кейс, когда ИИ предложил рецепт ядовитого чесночного масла: если следовать этой технологии, в результате получится смертельно опасный ботулотоксин.
— Верификация кода: при решении сложных задач ИИ может генерировать код, который требует тщательной проверки. Если пользователь плохо разбирается в программировании, он не сможет корректно верифицировать результат. Человеческий контроль здесь обязателен.
— Риск утечки данных: все запросы к ИИ отправляются в облако, что несет риск утечки конфиденциальных данных. Разработчики избегают загружать важные элементы своих проектов в облачные сервисы, поскольку это может привести к неправомерному использованию исходного кода.
Уже неоднократно возникали случаи, связанные с неправомерным использованием закрытого исходного кода. Авторы приложений предъявляли разработчикам генеративного ИИ претензии, что модели обучались на исходном коде, который они не открывали. Но юридически привлечь за неправомерное использование кода сейчас невозможно. Более того, нет возможности даже просто доказать, что использовался именно этот код.
— Ограничения в обучении: генеративный ИИ может помочь с рутинными задачами, но для работы с более сложными проектами требуется детальная настройка и понимание особенностей каждой задачи. Модель не сможет заменить профессионала, когда речь идет о глубоких специализированных знаниях.
— Застой в развитии: текущие технологии генеративного ИИ уже достигли своего пика. В ближайшие годы серьезных технологических прорывов не ожидается, что ограничивает потенциал ИИ в более сложных проектах. Разработчики продолжат использовать ИИ для несложных задач.
ИИ, несомненно, будет развиваться, но «большой взрыв» уже произошел. Дальше развитие технологии пойдет по поступательной схеме: будут дорабатываться какие-то мелкие функции, но еще одного скачка в ближайшие годы или даже десятилетия ждать не стоит. Создается впечатление, что в развитии технологии лингвистических моделей наступила «зима».
По словам Красильникова, страхи о замене разработчиков ИИ в ближайшие годы кажутся преждевременными. В то время как ИИ может облегчить решение простых задач, он не способен создать комплексные системы без участия опытных специалистов. Таким образом, разработчики могут использовать генеративный ИИ для повышения