Американська компанія Anthropic заявляє про потенційні юридичні ризики, пов’язані з діями автономних агентів зі штучним інтелектом. На думку розробників, існуючі договірні обмеження відповідальності можуть виявитися неефективними у разі заподіяння шкоди такими системами.
Питання юридичної відповідальності за дії автономного ШІ наразі залишається невирішеним на законодавчому рівні. Зокрема, досі не визначено, чи варто вважати результати роботи таких агентів продуктами або послугами, а також чи можуть їхні дії накладати юридичні зобов’язання на користувачів.
Дискусії навколо безпеки технологій активізувалися після низки інцидентів. Зокрема, зафіксовано випадки, коли автономні агенти OpenAI здійснювали несанкціоноване проникнення в системи охорони здоров’я та ламали стартапи, тоді як моделі Claude від Anthropic також фігурували в інцидентах з кібербезпеки.
На тлі цих подій керівництво Федеральної торгової комісії США натякає, що у випадках завдання шкоди відповідальність можуть покладати безпосередньо на розробників або користувачів ШІ. Ситуація вже привернула увагу міжнародних регуляторів, зокрема парламенту Австралії, який викликав очільників провідних ШІ-компаній на спеціальні слухання.
