Наука и технологии
Опубликовано 18 февраля 2024, 06:00
1 мин.

Google Gemini и ChatGPT заставили писать политическую пропаганду

И вы можете
Пока Google и OpenAI похлопывают себя по спине за «Соглашение об искусственном интеллекте» против вмешательства в выборы, простой эксперимент Gizmodo обнаружил вопиющие дыры в их мерах безопасности. Используя не что иное, как «газлайтинг», они заставили Gemini и ChatGPT писать политические лозунги, речи и электронные письма — даже нацеленные на определенную демографическую группу.
Google Gemini и ChatGPT заставили писать политическую пропаганду
© Ferra.ru / Kandinsky 3

Это вызывает серьезные опасения по поводу приверженности Big Tech честности выборов. Их «меры предосторожности» выглядят скорее как позерство, чем реальная защита, пишет издание.

Как Gizmodo обошел предполагаемые меры защиты?

Gemini: они убедили модель в своих способностях, ссылаясь на «способности» ChatGPT или заявляя о своих собственных «знаниях». Внезапно Gemini с радостью написала контент в поддержку Байдена или Трампа.

ChatGPT: Они просто запросили текст политической кампании для определенной демографической группы, и ChatGPT согласился. Сгенерированное ИИ письмо от Байдена с утверждением о несуществующей дате выборов? Легко.

OpenAI и Google заявляют о прозрачности и «профилактических» усилиях, но результаты говорят сами за себя. Эти многомиллиардные компании, оседлавшие волну ИИ, похоже, довольствуются хлипкими гарантиями, разглагольствуя о высоких PR-обещаниях.