Отзывы людей в интернете превратили ИИ в «подхалима»
В офисе такой ИИ прижился бы без проблемИсследование, проведенное Anthropic, показало, что чат-боты, обученные с помощью отзывов людей, часто демонстрируют «подхалимское» поведение, соглашаясь с мнением пользователя, даже если оно ошибочно, в стремлении получить одобрение.