Зростаючі інвестиції у ШІ-агенти свідчать про майбутнє широкомасштабної автоматизації, яка може бути навіть більш трансформаційною, ніж промислова революція. Як і з будь-якою технологічною інновацією, ШІ-агенти неминуче зіткнуться з проблемами у своєму розвитку. Постійне вдосконалення буде необхідним для відповідального використання та реалізації повного потенціалу ШІ-агентів.
На конференції Consensus у Гонконзі BeInCrypto взяв інтерв’ю у Андрія Грачова, керуючого партнера DWF Labs, щодо ключових викликів, з якими стикаються ШІ-агенти на шляху до масового впровадження, та як може виглядати їх широке використання.
Традиційні технологічні сектори та Web3 приймають ШІ
На даний момент можна з упевненістю сказати, що впровадження штучного інтелекту (ШІ) незабаром стане неминучим. Технологічні гіганти, включаючи Meta, Amazon, Alphabet та Microsoft, вже оголосили про плани інвестувати до 320 мільярдів доларів у ШІ та центри обробки даних у 2025 році.
Під час свого першого тижня на посаді президент США Трамп оголосив про Stargate, нове приватне спільне підприємство, зосереджене на розвитку центрів обробки даних ШІ. Це підприємство, до складу якого входять OpenAI, Softbank та Oracle, планує побудувати до 20 великих центрів обробки даних ШІ по всій території Сполучених Штатів.
Початкова інвестиція оцінюється у 100 мільярдів доларів, а плани розширення можуть збільшити загальну суму до 500 мільярдів доларів до 2029 року.
Проекти Web3 також здійснюють подібні інвестиції у ШІ. У грудні DWF Labs, провідна венчурна криптокомпанія, запустила фонд у розмірі 20 мільйонів доларів для ШІ-агентів з метою прискорення інновацій в автономних технологіях ШІ.
На початку цього місяця NEAR Foundation, яка підтримує протокол NEAR, також оголосила про свій власний фонд у розмірі 20 мільйонів доларів, зосереджений на масштабуванні розробки повністю автономних та верифікованих агентів, побудованих на технології NEAR.
«Історія показує, що все, що можна автоматизувати, буде автоматизовано, і, безумовно, деякі бізнес-процеси та процеси звичайного життя будуть захоплені ШІ-агентами», — сказав Грачов BeInCrypto.
Але з прискоренням розвитку ШІ зростає занепокоєння щодо можливості його зловживання.
Зловмисне використання ШІ-агентів
У Web3 ШІ-агенти вже швидко стають мейнстрімом. Вони пропонують різноманітні можливості, від аналізу ринку до автономної криптоторгівлі.
Однак їх зростаюча інтеграція також представляє критичні виклики. Зловживання ШІ з боку зловмисників є серйозною проблемою, що охоплює сценарії від простих фішингових кампаній до складних атак з використанням програм-вимагачів.
Широка доступність генеративного ШІ з кінця 2022 року докорінно змінила створення контенту, водночас привертаючи зловмисників, які прагнуть використати цю технологію. Ця демократизація обчислювальної потужності підвищила можливості супротивників і потенційно знизила бар’єр для входу для менш досвідчених загрозливих акторів.
Згідно з звіт Entrust, цифрові підробки документів, полегшені інструментами ШІ, тепер перевищують фізичні підробки, зростаючи на 244% у 2024 році. Тим часом, дипфейки становили 40% усіх біометричних шахрайств.
«Вже використовується для шахрайств. Використовується для відеодзвінків, коли неправильно представляють людей і їхні голоси», — сказав Грачов.
Приклади такого роду експлуатації вже потрапили в заголовки новин. На початку цього місяця фінансовий працівник у багатонаціональній компанії в Гонконзі був обманутий на авторизацію платежу у розмірі 25 мільйонів доларів шахраям, які використовували технологію дипфейків.
Працівник взяв участь у відеодзвінку з особами, яких він вважав колегами, включаючи головного фінансового директора компанії. Незважаючи на початкові вагання, працівник продовжив платіж після того, як інші учасники виглядали і звучали автентично, згідно з повідомленнями. Пізніше було виявлено, що всі учасники були фабрикаціями дипфейків.
Від раннього впровадження до загального визнання
Грачов вважає, що такі зловмисні використання неминучі. Він зазначає, що технологічний розвиток часто супроводжується початковими помилками, які зменшуються в міру дозрівання технології. Грачов навів два різні приклади, щоб довести свою точку зору: ранні етапи Всесвітньої павутини та біткоїн.
«Ми повинні пам’ятати, що Інтернет почався з порносайтів. Це було як перший біткоїн, який почався з наркоторговців, а потім покращився», — сказав він.
Кілька звітів підтримують Грачова. Вони стверджують, що індустрія розваг для дорослих відіграла вирішальну роль у ранньому впровадженні та розвитку Інтернету. Окрім надання споживчої бази, вона стала піонером у технологіях, таких як відеомагнітофони, відеострімінг, віртуальна реальність та будь-яка форма комунікації.
Порно діяло як інструмент залучення. Індустрія розваг для дорослих історично стимулювала споживче впровадження нових технологій.
Її раннє прийняття та застосування інновацій, особливо коли вони успішно задовольняють потреби аудиторії, часто призводить до ширшого мейнстрімного впровадження.
«Це почалося з розваг, але розваги залучили багато людей. Потім можна побудувати щось на цій аудиторії», — сказав Грачов.
З часом були впроваджені заходи безпеки для обмеження частоти та доступності контенту для дорослих. Незважаючи на це, це все ще одна з кількох послуг, які Інтернет надає сьогодні.
Шлях біткоїна від даркнету до революції
Еволюція біткоїна тісно відображає перші випадки використання Інтернету. Раннє впровадження біткоїна було значною мірою пов’язане з ринками даркнету та незаконною діяльністю, включаючи торгівлю наркотиками, шахрайство та відмивання грошей. Його псевдонімність та легкість глобальних переказів коштів робили його привабливим для злочинців.
Незважаючи на його подальше використання у злочинній діяльності, біткоїн знайшов численні легітимні застосування. Технологія блокчейн, що лежить в основі криптовалют, надає рішення для реальних проблем та руйнує традиційні фінансові системи.
Хоча це все ще дуже молоді індустрії, застосування криптовалют та блокчейну продовжуватимуть розвиватися. За словами Гарчева, те ж саме відбудеться з поступовим впровадженням технології ШІ. Для нього помилки повинні бути прийняті, щоб навчитися на них і відповідно коригуватися.
«Ми завжди повинні пам’ятати, що спочатку відбувається шахрайство, а потім люди починають думати, як його запобігти. Звичайно, це станеться, але це нормальний процес, це крива навчання», — сказав Грачев.
Однак, усвідомлення того, що ці ситуації відбудуться в майбутньому, також викликає питання про те, хто повинен нести відповідальність.
Питання відповідальності
Визначення відповідальності, коли шкода завдається через дії агента, є складним юридичним та етичним питанням. Питання про те, як притягнути ШІ до відповідальності, неминуче виникає.
Складність систем ШІ створює виклики у визначенні відповідальності за шкоду. Їхня «чорна скринька», непередбачувана поведінка та здатність до безперервного навчання ускладнюють застосування типових уявлень про те, хто винен, коли щось йде не так.
Крім того, участь кількох сторін у розробці та впровадженні ШІ ускладнює оцінку відповідальності, ускладнюючи визначення винуватості у випадках збоїв ШІ.
Відповідальність може лежати на виробнику за недоліки в дизайні або виробництві, на розробнику програмного забезпечення за проблеми з кодом або на користувачеві за недотримання інструкцій, встановлення оновлень або підтримку безпеки.
«Я думаю, що вся ця справа занадто нова, і я думаю, що ми повинні вміти вчитися на ній. Ми повинні мати можливість зупинити деякі агенти ШІ, якщо це потрібно. Але з моєї точки зору, якщо не було жодного злого наміру створити це, ніхто не несе відповідальності, тому що це щось дійсно нове», — сказав Грачев BeInCrypto.
Однак, за його словами, ці ситуації потрібно ретельно управляти, щоб уникнути впливу на безперервні інновації.
«Якщо звинувачувати цього підприємця, це вб’є інновації, тому що люди будуть боятися. Але якщо це працює неправильно, так, це може врешті-решт спрацювати. Нам потрібно мати спосіб зупинити це, навчитися, покращити та перевчитися», — додав Грачев.
Тонка межа, однак, залишається надзвичайно тонкою, особливо в більш екстремальних сценаріях.
Розв’язання проблем довіри для відповідального впровадження ШІ
Загальний страх при обговоренні майбутнього штучного інтелекту стосується ситуацій, у яких агенти ШІ стають могутнішими за людей.
«Є багато фільмів про це. Якщо ми говоримо про, скажімо, контроль поліції або уряду, або якусь армію в якійсь війні, звичайно, автоматизація є великою загрозою. Деякі речі можуть бути автоматизовані до такої міри, що вони можуть завдати шкоди людям», — сказав Грачев.
Коли його запитали, чи може такий сценарій статися, Грачев сказав, що теоретично це можливо. Незважаючи на це, він визнав, що не може знати, що станеться в майбутньому.
Однак такі ситуації є символічними для фундаментальних проблем довіри між людьми та штучним інтелектом. Грачев каже, що найкращий спосіб вирішення цієї проблеми — це показати людям випадки використання, де ШІ може бути дійсно корисним.
«ШІ може бути важко повірити. Ось чому він повинен починатися з чогось простого, тому що довіра до агента ШІ не буде побудована, коли хтось пояснює, що він надійний. Люди повинні звикнути до його використання. Наприклад, якщо ви говорите про криптовалюту, ви можете запустити мем, скажімо, на Pump.fun, але чому б не запустити його голосовим повідомленням? З агентами ШІ просто надішліть голосове повідомлення, яке каже «будь ласка, запустіть це і те», і воно запущено. А потім наступний крок [буде] довірити агенту деякі більш важливі рішення», — сказав він.
Зрештою, шлях до широкого впровадження ШІ безсумнівно буде позначений видатними досягненнями та непередбаченими викликами.
Балансування інновацій з відповідальним впровадженням у цьому розвиваючому секторі буде вирішальним для формування майбутнього, де ШІ приносить користь всьому людству.
Дисклеймер
Відповідно до принципів проєкту Trust Project, ця авторська стаття представляє точку зору автора і не обов'язково відображає погляди BeInCrypto. BeInCrypto залишається прихильником прозорої звітності та дотримання найвищих стандартів журналістики. Читачам рекомендується перевіряти інформацію самостійно і консультуватися з професіоналами, перш ніж приймати рішення на основі цього контенту. Зверніть увагу, що наші Загальні положення та умови, Полiтика конфіденційності та Дисклеймер були оновлені.
