ChatGPT допоміг американськім військовим та розвідникам
Представники Пентагону чіпляли кожне слово, коли Метью Найт, керівник відділу безпеки OpenAI, пояснював, як остання версія ChatGPT змогла розшифрувати загадкові розмови всередині російської хакерської групи, завдання, яке аналітики-люди визнали складним.
«Ці журнали були на російському скороченому інтернет-сленгу», — сказав Найт. «У нашій команді був російський лінгвіст, якому було важко це пройти. Знаєте, сильно розмовляє російською мовою. Але GPT-4 зміг пройти через це».
Обіцянки та небезпеки передових технологій штучного інтелекту були продемонстровані цього тижня на організованому Пентагоном конклаві для вивчення майбутнього використання штучного інтелекту військовими. Представники уряду та промисловості обговорювали, як такі інструменти, як великі мовні моделі, або LLM, можуть бути використані для підтримки стратегічної переваги уряду США над конкурентами — особливо Китаєм.
Крім OpenAI, серед компаній, які демонстрували свої технології, були Amazon і Microsoft.
Не всі поставлені питання були позитивними. Деякі доповідачі закликали до обережності при розгортанні систем, дослідники все ще працюють над повним розумінням.
«Існує занепокоєння щодо потенційних катастрофічних аварій через несправність штучного інтелекту та ризику значної шкоди від ворожої атаки , націленої на штучний інтелект», — сказав на симпозіумі підполковник армії Південної Кореї Кангмін Кім. «Тому надзвичайно важливо, щоб ми ретельно оцінювали системи озброєнь штучного інтелекту на етапі розробки».
Він сказав представникам Пентагону, що їм необхідно розв'язувати питання «відповідальності у разі аварій».
Крейг Мартелл, голова Головного управління цифрового та штучного інтелекту Пентагону (CDAO), заявив журналістам у четвер, що йому відомо про такі побоювання.
«Я б сказав, що ми крутимося надто швидко, якщо відправляємо речі, які не знаємо, як оцінити», — сказав він. «Я не думаю, що ми повинні відправляти речі, які ми не знаємо, як оцінити».
Хоча LLM, такі як ChatGPT, відомі громадськості як чат-боти, експерти галузі кажуть, що військові навряд чи використовуватимуть їх у чаті. Їх, швидше за все, використовуватимуть для виконання завдань, які займуть надто багато часу або будуть надто складними, якби їх виконували люди. Це означає, що ними, ймовірно, володітимуть навчені практики, які використовуватимуть їх для використання потужних комп’ютерів.
Логотип Task Force Lima, нещодавно створеної дослідницької групи генеративного штучного інтелекту в Головному офісі цифрового та штучного інтелекту Пентагону. Група тестує великі мовні моделі для можливого використання Міністерством оборони. (Головний офіс цифрового та штучного інтелекту Міністерства оборони)
«Чат — це глухий кут», — сказав Шям Санкар, головний технічний директор Palantir Technologies, підрядника Пентагону. «Натомість ми переосмислюємо LLM і підказки як призначені для розробників, а не для кінцевих користувачів. … Це змінює те, для чого ви б їх навіть використовували».
На тлі симпозіуму вимальовувалась технологічна гонка Сполучених Штатів проти Китаю, яка дедалі більше відбивається на холодній війні. За словами дослідників, Сполучені Штати залишаються впевнено лідируючими щодо ШІ, оскільки Вашингтон стримував прогрес Пекіна через низку санкцій . Але офіційні особи США стурбовані тим, що Китай, можливо, вже досяг достатніх знань ШІ, щоб посилити збір розвідданих і військовий потенціал.
Лідери Пентагону неохоче обговорювали рівень штучного інтелекту в Китаї, коли кілька разів запитували члени аудиторії цього тижня, але деякі з галузевих експертів, запрошених виступити, були готові відповісти на це питання.
Александр Ван, генеральний директор компанії Scale AI, розташованої в Сан-Франциско , яка співпрацює з Пентагоном над штучним інтелектом, заявив у четвер, що лише кілька років тому Китай значно відставав від Сполучених Штатів у LLMs, але значною мірою усунув цю прогалину завдяки мільярдам доларів. в інвестиціях. Він сказав, що Сполучені Штати, схоже, готові залишитися лідером, якщо тільки вони не припустилися невимушених помилок, таких як недостатні інвестиції в програми AI або розгортання LLM за неправильними сценаріями.
"Це сфера, де ми, Сполучені Штати, повинні виграти", - сказав Ван. «Якщо ми спробуємо використати технологію в сценаріях, де вона непридатна для використання, тоді ми впадемо. Ми вистрелимо собі в ногу».
Деякі дослідники застерігали від спокуси проштовхнути нові додатки ШІ до того, як вони будуть готові, просто через занепокоєння, що Китай наздожене.
«Ми бачимо занепокоєння щодо відставання чи відставання. Це та сама динаміка, яка стимулювала розробку ядерної зброї, а згодом і водневої бомби», — сказав Джон Вольфстал, директор із глобальних ризиків у Федерації американських вчених, який не був присутній на симпозіумі. «Можливо, такої динаміки не уникнути, але ми — ні в уряді, ні в спільноті розробників штучного інтелекту — недостатньо усвідомлюємо ці ризики та не враховуємо їх у рішеннях про те, наскільки інтегрувати ці нові можливості в деякі з наших найбільш чутливих систем».
Рейчел Мартін, директор програми Пентагону Maven , яка аналізує відео спостереження з дронів, супутникові зображення з високою роздільною здатністю та іншу візуальну інформацію, сказала, що експерти в її програмі звертаються до магістрів права за допомогою в аналізі «мільйонів до мільярдів» одиниць відео та фото — «масштаб, який, на мою думку, є, мабуть, безпрецедентним у державному секторі». Програмою Maven керують Національне агентство геопросторової розвідки та CDAO.
Мартін сказав, що залишається незрозумілим, чи комерційні магістратури, які навчалися на загальнодоступних даних Інтернету, найкраще підійдуть для роботи Maven.
«Існує величезна різниця між фотографіями котів в Інтернеті та супутниковими знімками», – сказала вона. «Ми не впевнені, наскільки нам будуть корисні моделі, навчені на таких інтернет-зображеннях».
Особливо великий інтерес викликала презентація Найта про ChatGPT. Минулого місяця OpenAI зняв обмеження щодо військових програм зі своєї політики використання , і компанія почала співпрацювати з Агентством передових оборонних досліджень Міністерства оборони США (DARPA).
Найт сказав, що магістерські програми добре підходять для проведення складних досліджень різними мовами, виявлення вразливостей у вихідному коді та виконання «голки в стозі сіна» пошуку, що було надто трудомістким для людей. «Мовні моделі не втомлюються», — сказав він. «Вони могли б робити це цілий день».
Найт також сказав, що LLM можуть бути корисними для «дій з дезінформації» шляхом створення маріонеток із шкарпеток або підроблених облікових записів у соціальних мережах, наповнених «своєрідною біографією людини з бейсбольної картки». Він зазначив, що це трудомістке завдання, якщо його виконують люди.
«Якщо у вас є маріонетки з шкарпеток, ви можете імітувати, як вони вступають у суперечку», — сказав Найт, показуючи макет фантомних правих і лівих людей, які ведуть дебати.
Капітан ВМС США М. Ксав’єр Луго, голова цільової групи CDAO із створення штучного інтелекту, заявив на сцені, що Пентагон не використовуватиме LLM компанії проти свого бажання.
«Якщо хтось не хоче, щоб їхня базова модель використовувалася Міністерством оборони, цього не буде», — сказав Луго.
Офіс, який головує на симпозіумі цього тижня, CDAO, був створений у червні 2022 року , коли Пентагон об’єднав чотири відділи аналітики даних і штучного інтелекту. Маргарет Палмієрі, заступник начальника CDAO, сказала, що централізація ресурсів штучного інтелекту в одному офісі відображає зацікавленість Пентагону не лише експериментувати з цими технологіями, але й широко їх розгортати.
«Ми дивимося на місію через іншу лінзу, і цією лінзою є масштаб», — сказала вона.
Джерело: http://internetua.com