Microsoft отчиталась об успехах в продвижении «этичного» ИИ

Среди ключевых достижений, описанных в отчете, — разработка 30 инструментов ответственного ИИ, расширение команды ответственного ИИ и внедрение мер по оценке рисков для генеративных приложений ИИ. В частности, Microsoft внедрила Content Credentials в свои платформы для создания изображений, что позволяет помечать созданный ИИ контент водяными знаками.

Кроме того, Microsoft предоставила клиентам Azure AI инструменты для обнаружения и смягчения проблемного контента, такого как разжигание ненависти и членовредительство, а также расширила возможности оценки безопасности. Усилия также распространяются на инициативы red-teaming, включающие тестирование собственными силами и сторонними организациями для обеспечения безопасности моделей ИИ.

Несмотря на достигнутый прогресс, проблемы сохраняются, о чем свидетельствуют прошлые противоречия, связанные с ИИ, такие как распространение ошибочной информации и создание неадекватного контента.