Масова кибератака, задвижвана от изкуствен интелект, разкри критични уязвимости в системите за модериране на съдържанието на китайската платформа за къси видеоклипове Kuaishou, предупредиха експерти във вторник, след като платформата беше наводнена от десетки хиляди незаконни предавания на живо.

Координираното нападение, започнало около 22:00 часа в понеделник, подчертава, че рецензентите сами по себе си не могат да се справят с автоматизираните атаки. Експертите по киберсигурност сега призовават за приемането на усъвършенствани AI инструменти за укрепване на защитите срещу все по-сложни цифрови заплахи.

В понеделник вечерта нападателите разположиха приблизително 17 000 бот акаунта за излъчване на порнография и материали с насилие. Координираната 90-минутна обсада е заобиколила системите за сигурност и е компрометирала потребителски данни, налагайки пълно спиране на секцията за предаване на живо на приложението, според фирмата за киберсигурност Qi-Anxin, която проследи атаката.

Компанията каза в изявление във вторник, че атаката е преодоляла умерените защити на Kuaishou, като нападателите са използвали предварително записани видеоклипове, съдържащи явно и насилствено съдържание.

Изправен пред ескалиращите нарушения, Kuaishou инициира пълно спиране на всички канали за предаване на живо. До полунощ секцията за предаване на живо на платформата изглеждаше изчистена – включително легитимно съдържание.

Kuaishou потвърди в изявление във вторник, че е бил злонамерено атакуван от киберпрестъпни групи и че са предприети спешни мерки за справяне с нарушението.

Анализът на индустрията показва, че инцидентът е бил добре координирана, предварително обмислена външна атака. Нападението показа ясни белези на автоматизация, с огромен брой новорегистрирани акаунти, стартиращи едновременни излъчвания.

След обширни ремонти на системата Kuaishou възстанови своята функция за стрийминг на живо и каза, че всички други услуги остават незасегнати. Компанията заяви, че е съобщила за инцидента на съответните регулатори и органи за обществена сигурност и ще търси правни средства за защита, за да защити своите интереси и тези на своите акционери.

Експертите отбелязват, че незаконните операции стават все по-скрити и индустриализирани, като често използват AI за разпространение на дезинформация.

Франсис Фонг По-киу, почетен президент на Хонконгската федерация за информационни технологии, каза, че нападателите вероятно са използвали лесно достъпни, автоматизирани инструменти, за да заобиколят конвенционалните мерки за сигурност.

„Те вероятно са използвали автоматизирани услуги за решаване на пъзели CAPTCHA – тези тестове „докажи, че си човек“ – и са скрили местоположенията си, използвайки мрежи от хакнати домашни устройства“, каза Фонг.

Този подход им позволи да генерират хиляди фалшиви акаунти почти мигновено. Самите потоци, добави Фонг, вероятно не са живи хора, а лица, генерирани от изкуствен интелект или циклични записи, предназначени да избегнат откриването по време на периоди с голям трафик.

За да се противопостави на подобни заплахи, Фонг се застъпва за политика на „нулево доверие“, при която всеки нов акаунт се третира като потенциална заплаха. Достъпът ще бъде ограничен, докато поведението на потребителя – като нормални модели на взаимодействие – не потвърди тяхната легитимност. Той също така подчерта значението на усъвършенстваните системи за откриване на AI, способни да анализират видео, аудио и текст едновременно, за да открият координирани аномалии.

Експертите също така посочиха рисковете от изтичане на вътрешни данни, откраднати акаунти или неразрешени операции, като подчертаха необходимостта от по-строг вътрешен контрол и управление на достъпа.

Фонг наблегна на строг контрол на достъпа, като гарантира, че служителите имат само разрешенията, които са от съществено значение за техните роли, като се изисква одобрение от няколко лица за чувствителни действия. Непрекъснатото наблюдение за необичайно поведение на служителите – като влизане извън работно време – е също толкова критично за намаляване на вътрешните рискове.

Li Huaisheng, експерт по кибер право в Китайския университет по политически науки и право, каза, че атаката срещу Kuaishou е пример за сложна „CC атака“, която симулира легитимни потребители да изчерпят ресурсите за обработка на платформата.

„Това е като да изпратиш 100 мними клиенти, за да затрупаш служител с въпроси, докато истинските клиенти не могат да бъдат обслужени“, обясни Ли.

Той предупреди, че инцидентът разкрива опасна пропаст между автоматизираните хакерски инструменти и ръчните пасивни защити.

„Трябва да преминем от твърда към гъвкава защита“, каза Ли, застъпвайки се за управлявани от AI системи, които могат да противодействат на автоматизирани скриптове. Той също така оспори предположението, че големите платформи по своята същност са сигурни, отбелязвайки, че киберсигурността е непрекъсната и скъпа инвестиция, която някои може да пренебрегнат.

Ли добави, че платформите, които не отговарят на задължителните задължения за сигурност, могат да бъдат разглеждани както като жертви, така и като административни нарушители.

Нашия източник е Българо-Китайска Търговско-промишлена палaта