Anthropic предложила условия для вмешательства властей в работу ИИ-моделей
По проекту власти США смогут принимать меры против модели только при предвидимом и непосредственном риске ущерба свыше $1 млрд либо гибели или тяжёлых травм более чем у 50 человек. О черновике сообщил Politico.
В этой истории
Когда власти смогут принять меры
По данным Tom's Hardware, Politico сообщил о конфиденциальном проекте законопроекта о безопасности ИИ, подготовленном Anthropic — компанией, разрабатывающей большие языковые модели Claude. Проект представили американским законодателям.
Власти смогут действовать в отношении конкретной модели, только если она создаёт предсказуемый и непосредственный риск ущерба свыше $1 млрд либо гибели или тяжёлых травм более чем у 50 человек. Такой риск должен быть связан с созданием или распространением биологического оружия, обходом моделью ограничений разработчика либо кибератакой.
Позиция компании и контекст
В Anthropic заявили, что проект отражает предложения из Advanced AI Framework компании, которые она продвигает среди федеральных законодателей и законодателей штатов с июня. Представитель Anthropic назвал эти меры разумными и сказал, что, по мнению компании, Конгрессу следует их принять. Politico также указал на сходство предложений с положениями законодательства Калифорнии об ИИ.
Ранее в этом году руководитель направления безопасности Anthropic ушёл с должности, оставив записку со словами о том, что «мир в опасности». На прошлой неделе генеральные прокуроры восьми штатов США обвинили OpenAI в том, что компания ради прибыли игнорировала собственные предупреждения о рисках для безопасности.
У МИРОВ ЕСТЬ ПРОДОЛЖЕНИЕ
