Онлайн платформите затягат надзора върху съдържанието, генерирано от AI, и автоматизираните акаунти, докато регулаторите и компаниите се стремят да защитят автентичните потребителски взаимодействия и да ограничат възникващите рискове, свързани с инструменти, задвижвани от AI.

Платформата за социални медии и съдържание RedNote, известна също като Xiaohongshu, обяви наскоро нови мерки за управление, насочени към акаунти, управлявани автоматично чрез инструменти на AI, като каза, че нарушенията могат да доведат до забрани на акаунти в най-сериозните случаи.

Платформата подчерта, че използването на AI за представяне на реални потребители, създаване на неавтентично съдържание или извършване на фалшиви взаимодействия ще бъде строго забранено.

Съгласно новите правила, акаунти, които са директно регистрирани, управлявани и с които се взаимодейства чрез AI хостинг инструменти, или тези, чиито публикации са изцяло генерирани и публикувани от такива инструменти, ще бъдат изправени пред забрани на акаунти, според изявлението.

Ходът идва в момент, когато автоматизираните AI инструменти разпространяват пазара. С неотдавнашната вълна на OpenClaw, AI агент с отворен код, се появиха голям брой инструменти за AI агенти, способни автоматично да изпълняват задачи.

Воден от търговски интереси, такъв AI хостинг може да доведе до сива индустриална верига от „създаване на акаунт, поддържане на акаунт и препродажба или монетизация“, според доклад на Securities Daily. Операторите използват AI, за да генерират изкуствена популярност в мащаб, преди да продадат акаунтите за печалба или да ги превърнат в канали за промоция на продукти или онлайн курсове.

„Тъй като възможностите за изпълнение на AI нарастват експоненциално, „играта на котка и мишка“ между платформите за съдържание и инструментите за производство на AI вероятно ще се засили“, се казва в неотдавнашен доклад на Citi, добавяйки, че ходът на Xiaohongshu има за цел да изгради защитна стена за общността, за да предотврати гласовете на реалните потребители да бъдат заглушени от генерирано от алгоритъм съдържание.

„Всеки истински запис и всеки искрен обмен заедно създават топлината на общността“, каза Xiaohongshu в своето съобщение, призовавайки потребителите да използват AI инструментите отговорно по време на творческия процес и да гарантират, че публикациите продължават да отразяват реални преживявания и лични прозрения.

Ходът на Xiaohongshu не е изолиран случай, тъй като големите китайски онлайн платформи засилват усилията си за ограничаване на генерираното от AI съдържание.

Douyin на ByteDance обяви миналата седмица, че е обработил 42 000 парчета вулгарно или нарушаващо правилата генерирано от AI съдържание от началото на годината. Около 14 000 акаунта получиха санкции, включително ограничения на трафика, временни забрани или постоянни спирания.

Weibo също засили усилията си за тази цел, премахвайки големи количества съдържание и спирайки свързани акаунти наскоро. Платформата също така надгради своите технологии за откриване на AI и призова потребителите да етикетират съдържание, генерирано от AI.

Тези ходове са в съответствие с по-широките регулаторни усилия за укрепване на рамките за управление на AI агенти и съдържание, генерирано от AI. Министерството на промишлеността и информационните технологии издаде набор от препоръки миналата седмица, за да помогне за предотвратяване на рискове за сигурността, свързани с OpenClaw агентска рамка с отворен код, включително потенциални кибератаки и изтичане на данни.

[email protected]

Нашия източник е Българо-Китайска Търговско-промишлена палaта