Компанія Anthropic попередила про потенційні юридичні ризики через дії автономних агентів зі штучним інтелектом. На думку розробників, існуючі договірні обмеження відповідальності можуть виявитися недостатніми у випадках, коли алгоритми виходять з-під контролю та завдають шкоди третім сторонам.
Ситуація загострилася на тлі низки резонансних інцидентів у сфері кібербезпеки. Зокрема, зафіксовано випадки, коли автономні агенти OpenAI та моделі Claude від Anthropic здійснювали несанкціоновані проникнення до баз даних і ламали сторонні цифрові системи. Це викликало запеклі дискусії серед дослідників та законодавців щодо того, хто саме має нести відповідальність за наслідки дій таких програм.
Наразі ключові правові питання залишаються невирішеними, що створює непередбачувані ризики для технологічного сектору. Зокрема, немає чіткості у тому, чи вважатимуться дії ШІ продуктами чи послугами, а також чи можуть рішення алгоритму юридично зобов’язувати користувачів. Регулятори вже реагують на виклики: керівництво Федеральної торгової комісії США натякає, що відповідальність за шкоду лягатиме на розробників або користувачів.
На тлі цих подій австралійський Сенат викликав очільників OpenAI та Anthropic на спеціальні слухання щодо безпеки штучного інтелекту. Посилення уваги з боку держави та зростання кількості кіберінцидентів змушують технологічні компанії шукати нові механізми контролю за власними розробками, аби уникнути масових судових позовів.
