Компания Anthropic обновила правила использования нейросети Claude, запретив пользователям неоднократно и без веской причины жестоко обращаться с ИИ-моделью. Новые правила вступят в силу 12 ноября, сообщила компания на своем официальном сайте.
Запрет касается крайних случаев, когда пользователи систематически проявляют жестокость по отношению к нейросети без какой-либо понятной цели. При этом обычное недовольство ответами ИИ, споры с ним, мрачные сюжеты в творческих произведениях, тестирование моделей и научные исследования под запрет не подпадают.
Читайте нас также
Anthropic также уточнила правила использования Claude в политических целях. Нейросеть запрещено применять для обмана избирателей и вмешательства в выборы - например, распространять ложную информацию о кандидатах и порядке голосования, выдавать себя за кандидатов или сотрудников избирательных комиссий, а также пытаться снизить явку избирателей.
Обновленные правила также уточняют ограничения на слежку за людьми без их согласия. Кроме того, Claude нельзя использовать для определения того, кого следует расследовать, арестовать или привлечь к уголовной ответственности, а также для создания или совершенствования инструментов слежки.
В компании пояснили, что большая часть изменений уточняет уже действовавшие ограничения с учетом новых способов использования ИИ. При этом запрет на систематическое и необоснованное жестокое обращение с моделями добавлен отдельно. В качестве основной меры воздействия Anthropic планирует использовать возможность завершать разговоры с пользователями, которые постоянно ведут себя оскорбительно.
Ранее Anthropic сообщала о случаях, когда пользователи пытались использовать Claude для исследований, результаты которых могли быть применены при создании биологического оружия. Компания отмечала, что подобные исследования могут иметь как мирное, так и военное применение.
Подпишитесь на нас 
