Потенційні ризики штучного інтелекту: зростання необмежених великих мовних моделей та їхній вплив на шифрування-індустрію

Останніми роками стрімкий розвиток технологій штучного інтелекту глибоко змінює наше життя та робочі процеси. Від серії GPT до Gemini, а також до різноманітних відкритих моделей, новітні AI-системи постійно з'являються. Проте за цим технологічним прогресом також поступово проявляється тривожна тенденція — виникнення безмежних або зловмисних великих мовних моделей.

Безмежні мовні моделі - це ті, що були спеціально розроблені, модифіковані або "розблоковані" для обходу вбудованих механізмів безпеки та етичних обмежень основних моделей. Хоча розробники основних ШІ зазвичай витрачають великі ресурси, щоб запобігти використанню своїх моделей для генерації шкідливого контенту або надання незаконних порад, деякі особи або організації з поганими намірами почали шукати або самостійно розробляти не обмежені моделі. У цій статті буде розглянуто характеристики таких безмежних моделей, їх потенційні способи зловживання в сфері шифрування, а також викликані цим виклики безпеки.

Загроза необмежених мовних моделей

Поява цих моделей без обмежень зробила злочинні завдання, для виконання яких раніше потрібні були професійні навички, значно легшими. Навіть звичайні люди без досвіду програмування можуть легко генерувати шкідливий код, створювати шахрайські електронні листи чи планувати афери за допомогою цих моделей. Зловмисникам потрібно лише отримати інфраструктуру відкритої моделі, а потім використати набір даних з шкідливим вмістом або незаконними командами для навчання, щоб створити спеціалізовані інструменти для атак.

Ця тенденція розвитку принесла багато ризиків:

1. Зловмисники можуть налаштовувати моделі відповідно до конкретних цілей, створюючи більш оманливий контент, щоб обійти звичайні засоби безпеки ШІ.
2. Ці моделі можуть швидко генерувати код варіантів фішингових веб-сайтів або створювати шахрайські тексти, адаптовані для різних соціальних платформ.
3. Доступність та можливість модифікації відкритих моделей сприяють формуванню підпільної екосистеми ШІ, створюючи благодатний ґрунт для незаконної діяльності.

Типова безмежна мовна модель

певна зловмисна мовна модель

Це зловмисна модель ШІ, яка продається на підпільних форумах, розробник якої чітко стверджує, що вона не має жодних етичних обмежень. Вона базується на певних відкритих моделях і була навчена на великій кількості даних, пов'язаних із шкідливим ПЗ. Користувачі можуть отримати доступ, сплативши невелику щомісячну плату. Найвідоміше використання цієї моделі - створення надзвичайно обманливих комерційних електронних листів для атак на вторгнення та фішингових електронних листів.

У сфері шифрування валют його типовими способами зловживання є:

• Генерація фішингових електронних листів, що маскуються під біржу або проект, які вимагають від користувача підтвердження облікового запису
• Допомога технічно менш підготовленим зловмисникам у написанні шкідливого коду для викрадення інформації з гаманців
• Керування автоматизованими шахрайствами, що спонукають жертв брати участь у фальшивих аеродромах або інвестиційних проєктах

певна модель для темної мережі

Це мовна модель, яка спеціально навчена на даних з темного вебу, і спочатку призначена для допомоги дослідникам та правоохоронним органам краще розуміти екосистему темного вебу. Проте, якщо вона буде отримана зловмисниками або використана для навчання необмежених моделей, це може призвести до серйозних наслідків.

У сфері шифрування, потенційне зловживання включає:

• Збір інформації про користувачів та команди проекту для точної шахрайства
• Копіювання зрілих стратегій крадіжки монет і відмивання грошей в темній мережі

певний комплексний інструмент шахрайства

Це функціональніша модель шкідливого ШІ, яка в основному продається в підпільній мережі. Її типовими способами зловживання в сфері криптовалют є:

• Генерувати реалістичні фальшиві документи та маркетингові матеріали для шифрування проекту
• Швидке створення фішингових веб-сторінок, що імітують відомі біржі.
• Масове створення фальшивих коментарів у соціальних мережах для просування шахрайських токенів
• Імітувати людську розмову, спонукати користувача розкрити чутливу інформацію

певний без моральних обмежень AI асистент

Це чітко визначений AI чат-бот без моральних обмежень. У сфері шифрування валют його можна використовувати для:

• Генерація високореалістичних фішингових електронних листів, що маскуються під фальшиві повідомлення біржі
• Швидке генерування коду смарт-контракту з прихованими вразливостями
• Створення шкідливого програмного забезпечення з можливістю трансформації для викрадення інформації про гаманці
• Розгортання шахрайських ботів на соціальних платформах
• Поєднуючи з іншими AI-інструментами, генерувати підроблені голоси людей, пов'язаних з проєктом, здійснювати телефонне шахрайство

певна платформа доступу до відкритого AI

Це платформа, що надає доступ до багатьох мовних моделей, включаючи деякі з меншою цензурою. Хоча її початкова мета полягає в наданні користувачам відкритого досвіду штучного інтелекту, вона також може бути зловживана для генерації шкідливого контенту. Її потенційні ризики включають:

• Обійти цензуру для створення шкідливого контенту
• Знизити бар'єри для шкідливих підказок
• Ітерація та оптимізація методів атакування шифрування

Висновок

Поява безмежних мовних моделей знаменує собою нову парадигму атак, яка є більш складною, масштабною та автоматизованою, з якою стикається кібербезпека. Це не лише знижує бар'єри для атак, але й приносить нові, більш приховані та обманливі загрози.

У відповідь на цю ситуацію, усі учасники безпекової екосистеми повинні спільно працювати: збільшити інвестиції в технології виявлення, розробити рішення, які можуть розпізнавати та блокувати шкідливий контент, згенерований ШІ; сприяти розвитку власних безпекових можливостей моделей, досліджувати механізми відстеження контенту; створити належні етичні норми та механізми регулювання, щоб обмежити розробку та зловживання шкідливими моделями з самого початку. Лише комплексний підхід може ефективно протистояти викликам безпеки епохи ШІ та забезпечити здоровий розвиток екосистеми шифрування криптовалют.