Инженер Microsoft заявил об опасности ИИ компании

Инженер Microsoft, Шейн Джонс, обратил внимание на возможные уязвимости в генераторе изображений OpenAI DALL-E 3 ещё в январе, предупреждая о возможности создания неприемлемых изображений. Он также утверждает, что юристы Microsoft блокировали его попытки предупредить общественность о проблеме. Теперь Джонс направил свои жалобы прямо в Федеральную торговую комиссию (ФТК). В письме председателю ФТК Лине Хан, Джонс отметил, что Microsoft «отказалась» от снятия с публичного доступа генератор Copilot Designer, несмотря на его предупреждения. Он также призывает компанию добавить предупреждения о возможных опасностях для потребителей и изменить рейтинг приложения для подростков и взрослых. В настоящее время приложение Copilot Designer имеет рейтинг «Для всех». Джонс утверждает, что платформа слишком легко создает «грубые» изображения даже с использованием безобидных запросов. Он также утверждает, что команда Copilot ежедневно получает более 1000 жалоб на продукт, но утверждает, что не хватает ресурсов для их полного расследования. Представитель Microsoft отметил, что у компании есть «надежные внутренние каналы для обработки и устранения любых проблем». Microsoft утверждает, что Джонс должен «правильно проверять и тестировать свои замечания перед их обсуждением публично». Компания также сообщила, что связалась с Джонсом для урегулирования возможных оставшихся проблем.