Головний науковець компанії OpenAI Якуб Пахоцький заявив про необхідність добровільно пригальмувати темпи розвитку штучного інтелекту через загрозу втрати контролю над технологіями. За його словами, сучасні моделі розвиваються настільки стрімко, що людство не встигає адаптуватися до їхніх наслідків.
У своєму зверненні фахівець наголосив, що новітні системи вже здатні самостійно керувати комп’ютерами, реалізовувати наукові проєкти та співпрацювати між собою. На думку Пахоцького, у найближчому майбутньому ШІ зможе переймати процес рекурсивного самоудосконалення без участі людини, що вимагає надзвичайної обачності від галузі.
Подібні побоювання поділяють й інші лідери технологічного ринку. Зокрема, керівник Anthropic Даріо Амодей раніше попереджав про ризики масового скорочення початкових робочих місць через автоматизацію, а керівництво OpenAI визнає недостатню комунікацію з суспільством щодо реальних наслідків впровадження нових технологій.
Попри заклики до безпеки, глобальні компанії продовжують жорстку конкурентну боротьбу та випуск потужніших систем. Нещодавні інцидент із автономними атаками моделей на дослідницькі платформи та обмеження доступу до нових розробок через загрози кібербезпеці демонструють, що галузь наблизилася до створення штучного інтелекту, який перевершує людські можливості.
