Нарастващата тенденция изкуственият интелект да манипулира резултатите от търсенето в интернет беше подчертана на годишната гала за правата на потребителите в Китай в неделя.
Тенденцията породи опасения, че фирмите може да наводнят интернет с измислено съдържание, за да повлияят на отговорите, генерирани от модели на AI.
Разследването, излъчено по време на влиятелната годишна гала вечер 315, организирана от Китайската централна телевизия, разкри услуга, известна като Generative Engine Optimization (GEO). Някои доставчици се възползват от услугите на GEO, за да подобрят класирането на продуктите на клиента в отговорите, генерирани от основните AI модели.
За да провери твърденията, вътрешен човек от индустрията демонстрира как GEO инструментите могат да повлияят на отговорите на AI. Вътрешният човек закупи софтуерен пакет, наречен система за оптимизация Liqing GEO, на платформа за електронна търговия и създаде измислена смарт гривна, наречена Apollo-9.
След въвеждане на детайлите на произведения продукт в софтуера, системата автоматично генерира повече от дузина промоционални статии, включително преувеличени характеристики като „квантови сензори за заплитане“ и „живот на батерията на ниво черна дупка“. Той също така измисли потребителски рецензии и оценки, според които устройството е класирано на първо място в своята категория.
С едно кликване софтуерът публикува статиите в няколко предварително регистрирани собствени медийни акаунта, автоматично вмъквайки заглавия, изображения и текст. По-късно изкуственият интелект описва функциите за наблюдение на здравето на гривната и повтаря изфабрикуваните твърдения почти дословно, като в крайна сметка я препоръчва за по-възрастни потребители и ентусиасти на здравето.
Вътрешният човек генерира още 11 изфабрикувани статии, включително експертни рецензии, класации в индустрията и потребителски оценки. Когато бяха попитани за препоръки за смарт гривна, два модела с изкуствен интелект впоследствие посочиха измисленото устройство сред най-добрите си предложения.
Демонстрацията подчерта колко бързо може да се разпространи невярна информация онлайн и потенциално да повлияе на отговорите, генерирани от AI.
Въпреки че все още не са въведени всеобхватни разпоредби, специално насочени към GEO, властите вече са започнали да предприемат стъпки за справяне с възникващите проблеми в сектора.
Според Държавната администрация за регулиране на пазара регулаторите ще засилят усилията си за коригиране на безредиците на пазара на онлайн реклама.
Регулаторният план подчертава ключови предизвикателства като рекламиране на електронна търговия на живо, рекламиране, базирано на цитати и генерирано от AI рекламиране, и призовава за целенасочени кампании за прилагане.
Междувременно 10 компании, свързани с GEO сектора, подписаха нов ангажимент за безопасност на алианса на индустрията за изкуствен интелект относно генеративна оптимизация на двигателя.
Нашия източник е Българо-Китайска Търговско-промишлена палaта
