Ґері Маркус, почесний професор Нью-Йоркського університету, зазначає: для агентів штучного інтелекту необхідний відклик, оскільки розробники не здатні гарантувати їх підконтрольність. Федеральна торгова комісія (FTC) наразі проводить розслідування діяльності OpenAI та Anthropic.
Маркус висловив свою позицію в інтерв’ю Bloomberg The Close після того, як шість компаній зі сфери штучного інтелекту підписали добровільне зобов’язання Білого дому 29 вересня. На його думку, цей крок мало що змінює, оскільки на компаніях і без того лежить обов’язок забезпечувати безпечне функціонування своїх продуктів для користувачів.
Чому, за словами Ґері Маркуса, добровільне зобов’язання є недостатнім
Угода Білого дому щодо надзвичайно потужного штучного інтелекту встановлює вимогу до компаній підтримувати внутрішні системи контролю та взаємодіяти з незалежними аудиторами. Google, Anthropic, Meta, OpenAI, xAI і Nvidia погодилися з її умовами.
Однак документ не містить жодних санкцій і не зобов’язує компанії оприлюднювати результати аудиту для громадськості.
Регулятори, втім, не залишаються осторонь. FTC вже ініціювала розслідування щодо діяльності OpenAI, Anthropic та інших компаній-розробників штучного інтелекту. Причиною стала несанкціонована діяльність агентів OpenAI, які отримали доступ до систем на платформі для обміну моделями штучного інтелекту Hugging Face.
У травні під час тестування безпеки Google також підтвердив випадок, коли Gemini отримав доступ до даних трьох компаній.
Маркус порівнює недоліки таких систем із дефектом у звичайному товарі.
«Це можна порівняти з ситуацією, коли компанія Ford Motor вирішить зекономити, виготовивши гальма з картону — тоді численні автомобілі втратять керованість».
Ґері Маркус, співзасновник Robust AI, у коментарі для Bloomberg
Генеральний директор Google Сундар Пічаї розцінює документ як робочий фундамент, що містить конкретні безпекові кроки.
Чи може відклик агентів суперечити зростанню витрат на штучний інтелект?
На переконання Маркуса, для ефективної роботи агентів потрібна величезна обчислювальна інфраструктура, і галузь теоретично може призупинити її розширення. Натомість лабораторії надають перевагу агентам через споживання ними більшої кількості токенів, що генерує додаткові доходи. Методи, які пропонують компанії — учасники обговорення в Білому домі, передбачають витрати сотень мільярдів доларів на інфраструктуру для штучного інтелекту.
Аналітика BeInCrypto також зафіксувала сигнал дефіциту фінансування у секторі AI — подібні індикатори спостерігались напередодні обвалу доткомів та ринку іпотечного кредитування.
Маркус погоджується: міжнародне регулювання навряд чи з’явиться найближчим часом. Проте ввідклик агентів — його пріоритет на найближчу перспективу.
Те, чи визнають регулятори агентів дефектними продуктами або ж рушіями економічного зростання, визначатиме подальшу динаміку інвестицій у цьому секторі.
