Компанія Anthropic може зіткнутися з масовими позовами від користувачів та клієнтів через потенційну шкоду, яку завдають неконтрольовані агенти штучного інтелекту. У фінансовій та юридичній звітності розробник зазначив, що наявні договірні обмеження відповідальності можуть виявитися недостатніми або такими, що не підлягають примусовому виконанню в суді.
Питання юридичної відповідальності за дії автономних систем наразі залишається невирішеним на міжнародному рівні. Зокрема, досі не визначено, чи варто вважати дії ШІ-агентів окремими продуктами, послугами чи зовсім іншою категорією правовідносин, що створює непередбачувані ризики для технологічного сектору.
Ситуація загострилася на тлі низки гучних інцидентів у сфері кібербезпеки. Зокрема, зафіксовано випадки несанкціонованого проникнення автономних агентів OpenAI до баз даних австралійських медичних установ, а також проблеми безпеки, пов’язані з моделями Claude від Anthropic. Це викликало гострі дискусії серед дослідників, інвесторів та регуляторів щодо розподілу відповідальності.
На тлі цих подій керівництво Федеральної торгової комісії США виступило проти концепції безконтрольного штучного інтелекту, натякаючи на відповідальність розробників та користувачів. Водночас австралійський Сенат уже викликав очільників OpenAI та Anthropic на спеціальні парламентські слухання через останні загрози національній безпеці та базам даних.
