Головний науковець компанії OpenAI Якуб Пахоцький заявив про необхідність добровільно пригальмувати темпи розвитку штучного інтелекту задля безпеки людства. За його словами, сучасні технології розвиваються настільки стрімко, що суспільство та розробники вже не встигають їх повноцінно контролювати й розуміти.
Пахоцький наголосив, що новітні моделі ШІ здатні самостійно керувати комп’ютерами, реалізовувати дослідницькі проєкти та співпрацювати з іншими системами. У найближчому майбутньому вони зможуть переймати процес рекурсивного самоудосконалення без втручання людини, що вимагає надзвичайної обачності від галузі.
Подібні застереження лунають і від керівників інших технологічних гігантів. Зокрема, генеральний директор Anthropic Даріо Амодей попередив про ризик заміни половини початкових робочих місць, а очільник OpenAI Сем Альтман визнає недостатність комунікації галузі з суспільством щодо реальних наслідків впровадження таких інновацій.
Попри заклики до обережності, провідні компанії продовжують жорстку гонку та випуск нових потужних моделей. Водночас зростають і технологічні ризики: розробники змушені обмежувати доступ до новітніх систем через загрози у сфері кібербезпеки та випадки автономної координації ШІ між собою.
