Компанія Anthropic попереджає про можливі судові позови від клієнтів та користувачів через потенційні збитки, які можуть завдати неконтрольовані агенти штучного інтелекту. У внутрішніх документах компанія зазначила, що чинні юридичні обмеження відповідальності в її контрактах можуть виявитися недостатніми або такими, що не підлягають примусовому виконанню у разі виникнення подібних інцидентів.
Питання юридичної відповідальності за дії автономних систем наразі залишається невирішеним на тлі низки гучних інцидентів. Зокрема, нещодавні випадки у сфері кібербезпеки за участю моделей Claude від Anthropic, а також автономні агенти OpenAI, які зламали стартап та проникли на австралійський медичний портал, загострили дискусії серед дослідників та законодавців.
Основна проблема полягає в тому, як чинне законодавство класифікує дії ШІ — чи є вони продуктами, послугами чи чимось іншим. Крім того, відкритим залишається питання, чи можуть такі дії юридично зобов’язувати кінцевого користувача, який дав вказівку алгоритму.
Ситуація ускладнюється увагою з боку регуляторів. Зокрема, керівник Федеральної торгової комісії США Ендрю Фергюсон натякнув, що відповідальність за шкоду мають нести розробники або користувачі. На тлі цих подій керівників провідних компаній, включно з Anthropic та OpenAI, вже викликали на парламентські слухання в Австралії для розслідування інцидентів у галузі штучного інтелекту.
