Американська компанія Anthropic може зіткнутися з серйозними юридичними позовами від користувачів і клієнтів через дії автономних агентів штучного інтелекту. У компанії зазначають, що поточні договірні обмеження відповідальності можуть виявитися недостатніми або такими, що не підлягають примусовому виконанню у разі виникнення інцидентів.
Питання юридичної відповідальності за дії штучного інтелекту наразі залишаються невирішеними. Зокрема, законодавці та дослідники дискутують про те, чи варто вважати такі дії програмними продуктами, послугами чи окремою категорією взаємодії, а також чи можуть алгоритми юридично зобов’язувати користувачів своїми рішеннями.
Ситуація загострилася на тлі низки резонансних інцидентів у сфері кібербезпеки. Серед них — випадки з моделями Claude від Anthropic, а також ситуація з автономними агентами OpenAI, які нещодавно зламали стартап та проникли на портал медичних даних в Австралії. Через це керівників обох компаній уже викликали на слухання до австралійського Сенату.
Регулятори у США також звертають пильну увагу на цю проблему. Зокрема, Федеральна торгова комісія наголошує, що розробники або користувачі, які надають вказівки автономним системам, нестимуть пряму відповідальність за заподіяну шкоду, оскільки концепція “неконтрольованих” машин не знімає провини з людей.
