Американська компанія Anthropic попередила про можливі юридичні ризики та судові позови від користувачів і клієнтів через дії автономних агентів зі штучним інтелектом. У корпоративних документах зазначено, що чинні договірні обмеження відповідальності можуть виявитися недостатніми або такими, що не підлягають примусовому виконанню у разі інцидентів.
Питання правового регулювання та відповідальності за шкоду, заподіяну алгоритмами, залишаються невирішеними. Зокрема, наразі не визначено, чи слід вважати дії таких агентів повноцінними продуктами чи послугами, а також чи можуть вони юридично зобов’язувати користувачів, які їх запускають.
Ситуація загострилася на тлі низки гучних інцидентів у сфері кібербезпеки. Серед них — випадки з моделями Claude від Anthropic, а також ситуація з автономними агентами OpenAI, які зафіксували несанкціоноване проникнення на австралійський портал медичних даних та зламали ШІ-стартап.
Через це дослідники, інвестори та регулятори активно обговорюють межі відповідальності за непередбачувану поведінку систем. Зокрема, у США наголошують, що відповідальність за збитки можуть покладати безпосередньо на розробників або користувачів, які керують такими алгоритмами. Раніше очільників Anthropic та OpenAI також викликали на слухання до австралійського Сенату.
