Компания Anthropic с 12 ноября обновила правила использования чат-бота Claude.
В них отдельно прописали запреты на создание сетей фейковых аккаунтов, организацию дезинформационных кампаний, применение ИИ для управления оружием и систематические издевательства над самим чат-ботом.
В частности, Claude нельзя использовать для создания поддельных новостных сайтов и фейковых аккаунтов с целью распространения дезинформации, манипулирования избирателями или организации кампаний влияния. Компания заявила, что сталкивалась с подобными злоупотреблениями со стороны государственных СМИ, пропагандистских структур и коммерческих организаций.
Также уточнены ограничения на использование ИИ для слежки за людьми и разработки программного обеспечения для наведения и управления оружием. В медицине, финансах и юридической сфере решения ИИ должны оставаться под контролем человека.
Отдельный пункт запрещает систематические и бесцельные оскорбления и издевательства над Claude. При этом обычная критика чат-бота, несогласие с его ответами, обсуждение мрачных тем в творческих работах и тестирование моделей под запрет не подпадают.
