Microsoft отчиталась об успехах в продвижении «этичного» ИИ

Microsoft выпустила свой первый отчет о прозрачности ответственного ИИ, в котором показаны ее успехи в продвижении «этичных и безопасных» методов ИИ. Отчет стал результатом соглашения с Белым домом. Среди ключевых достижений, описанных в отчете, — разработка 30 инструментов ответственного ИИ, расширение команды ответственного ИИ и внедрение мер по оценке рисков для генеративных приложений ИИ. В частности, Microsoft внедрила Content Credentials в свои платформы для создания изображений, что позволяет помечать созданный ИИ контент водяными знаками. Кроме того, Microsoft предоставила клиентам Azure AI инструменты для обнаружения и смягчения проблемного контента, такого как разжигание ненависти и членовредительство, а также расширила возможности оценки безопасности. Усилия также распространяются на инициативы red-teaming, включающие тестирование собственными силами и сторонними организациями для обеспечения безопасности моделей ИИ. Несмотря на достигнутый прогресс, проблемы сохраняются, о чем свидетельствуют прошлые противоречия, связанные с ИИ, такие как распространение ошибочной информации и создание неадекватного контента.