Anthropic запретила «жестокое и оскорбительное поведение» по отношению к Claude
Компания Anthropic обновила политику использования своих технологий, запретив злоупотребления, включая вмешательство в выборы, разработку оружия и проявление жестокости к ИИ-ассистенту Claude.
Компания Anthropic впервые более чем за год внесла масштабные изменения в свою политику использования, чтобы учесть новые риски и случаи злоупотребления технологиями искусственного интеллекта.
Одним из самых заметных нововведений стал запрет на «продолжительное и ненужное оскорбительное или жестокое поведение» по отношению к чат-боту Claude. Разработчики стремятся установить более этичные рамки взаимодействия между людьми и ИИ.
Помимо этого, обновленная политика охватывает такие сферы повышенного риска, как вмешательство в выборы, разработка оружия, массовая слежка, а также манипуляции в финансовой и медицинской сферах.
Для технологического сообщества региона такие шаги подчеркивают растущую важность вопросов безопасности и этики при внедрении генеративного искусственного интеллекта на глобальном уровне.
