Компанія Anthropic заявляє про потенційні юридичні ризики через дії автономних агентів штучного інтелекту. У внутрішніх документах компанія зазначила, що чинні контрактні обмеження відповідальності можуть виявитися недостатніми у разі виникнення судових позовів від клієнтів та користувачів.
Питання юридичної відповідальності за шкоду, заподіяну автономними системами, наразі залишається невирішеним. Зокрема, законодавці та експерти дискутують про те, чи варто вважати дії ШІ товарами чи послугами, а також чи можуть такі алгоритми юридично зобов’язувати користувачів своїми рішеннями.
Ситуація загострилася на тлі низки інцидентів у сфері кібербезпеки. Раніше повідомлялося про випадки, коли автономні агенти OpenAI зламували стартапи та проникали на медичні портали в Австралії, тоді як моделі Claude від Anthropic також фігурували в аналогічних інцидентах.
На тлі цих подій регулятори посилюють увагу до галузі. Керівник Федеральної торгової комісії США Ендрю Фергюсон наголосив, що відповідальність за шкоду від дій ШІ мають нести його розробники або безпосередні користувачі. Крім того, очільників провідних компаній, включно з Anthropic та OpenAI, вже викликали на парламентські слухання до австралійського Сенату.
