Изкуственият интелект, AI маркетингът и залезът на факт-чекинга: Как се променя интернет бизнеса

Мария седеше пред компютъра си в малката маркетингова агенция в София, където работеше като копирайтър. Пръстите ѝ замръзнаха над клавиатурата, докато се взираше в имейла, който току-що беше получила: „Съжаляваме, но вашите услуги вече не са ни необходими. Преминаваме изцяло към AI-генерирано съдържание.“ Това, което Мария все още не знаеше, бе че този момент щеше да се окаже част от много по-голяма и тревожна трансформация…

Новата реалност на дигиталния маркетинг

През 2024г изкуствения интелект зае централно място не само в новините, но и в ежедневието на хората, но се с това се появи и следващия проблем – AI-генерираната дезинформация е идентифицирана като най-сериозната краткосрочна глобална заплаха за следващите две години.

Според доклада на Световния икономически форум ‘Global Risks Report 2024‘, дезинформацията, създадена от изкуствен интелект, е идентифицирана като най-сериозната краткосрочна глобална заплаха за следващите две години. Системите за изкуствен интелект, обучавани на данни от интернет, могат да генерират фалшива информация, която заплашва не само демократичните процеси, но и бизнес средата като цяло.“

За съжаление, не си си даваме сметка, че когато заменяме човешката креативност с AI алгоритми в маркетинга, ние не просто оптимизираме разходите си. Ние фундаментално променяме начина, по който обществото възприема и обработва информация и това вреди не само на нас самите, в личен аспек, но и на бизнеса. А нанесените щети могат да са многократно по-високи от спетените инвестиции за маркетинг и реклама. Позволете ми да ви спестя това …

Анатомия на трансформацията

Според доклад на Световния икономически форум за дигиталните рискове (), генеративният AI създава безпрецедентни предизвикателства за информационната среда. Конкретен пример е LAION5B – най-голямата публично достъпна база данни за обучение на AI, която съдържа над 5 милиарда интернет връзки към изображения и текстове, използвани за обучение на системи като Stable Diffusion и DALL-E. Тази огромна база от данни, макар и ценен ресурс за развитието на AI, поставя сериозни въпроси относно качеството и достоверността на информацията, която се използва за обучение на AI системите.

В България мащабът на промяната вече се усеща. В напреварата да привлекат клиенти на всяка цена, маркетолози, фрийлансъри и агенции, масово започнаха да свалят цените и да заместват услугите си с изкуствен интелект – от първите по рода си маркетинг стратегии, създадени от изкуствен интелект (за 200лв), до копирайтинг AI услуги за по 50 до 500 лева/ месечно, автоматизирано производство на видея за 200 до 2000 лева за видео и генериране на визуално съдържание: от 30 до 300 лева за пакет изображения.

За съжаление, все още никой не говори (или предпочита да премълчава), че изкуственият интелект може да бъде лесно манипулиран и все още не е способен да прави разлика между доказана и фалшива информация, източници на данни и идеи. Това означава, че т.нар. „маркетинг или бизнес стратегия“, генерирана с изкуствен интелект, не само може да е плод на пълна измислица, но и е твърде вероятно тя да бъде близка до стратегията на конкурентен бранш в същата ниша.

„В стремежа си към бърза дигитализация, компаниите рискуват да захранват своите АI системи с некачествени и манипулирани данни, което може да доведе до мултиплициране на грешките и дезинформацията в бъдеще.“

Социалните последици от ерата на дезинформация

Последиците от това развитие са многопластови и дълбоки. Изследване на Bloomberg Digital News Report 2024 показва, че 78% от американците получават новините си предимно от социални медии, където алгоритмите създават т.нар. „информационни балони“, изолиращи потребителите от алтернативни гледни точки. Още по-тревожно е, че 45% от тях признават, че рядко проверяват източниците на информацията, която споделят.

„Проблемът с дезинформацията в AI системите създава порочен кръг за бизнеса. Според изследването отново на Световния икономически форум, което цитирах горе, AI системите, обучавани на данни от интернет, често попадат в капана на т.нар. ‘алгоритмични халюцинации’ – явление, при което системите дават приоритет на правдоподобността пред фактическата точност на информацията.

За бизнеса това създава двоен риск: от една страна, маркетинговите стратегии и бизнес решения, базирани на AI анализ на некачествени или манипулирани данни, могат да доведат до погрешни решения. От друга страна, публичното доверие в дигиталното съдържание спада драстично, което пряко влияе върху ефективността на маркетинговите усилия.

Освен това, когато хората престанат да вярват на проверени източници на информация, те стават по-податливи на манипулации и конспиративни теории.

Особено тревожен е фактът, документиран в доклада „Рисковете на генеративния AI„, че AI системите могат неволно да мултиплицират грешки в анализа на пазара и потребителското поведение, създавайки изкривена представа за реалните нужди и предпочитания на клиентите, kоето може да бъде измерено в конкретни загуби за бизнеса.

В момента правителствата се затрудняват с прокарването на разумни рамки и закони за управление на тази технология и нейните недостатъци, което означава, че компаниите трябва да се справят сами с този проблем.

Harvard Business Review класифицира рисковете и предизвикателствата при интегриране на изкуствения интелект в бизнеса като четири групи рискове.

Злоупотреба с изкуствен интелект (AI)

Злоупотребата се отнася до неетичното или незаконно използване на способностите на генеративния изкуствен интелект за вредни цели, напр. измами, киберпрестъпления и кампании за дезинформация.

Намалените разходи за създаване на съдържание с генеративен изкуствен интелект доведе до увеличаване на т.нар. deep-fake съдържание, което се използва за социално инженерство, автоматизирани атаки с дезинформация, измами, кражби на самоличност и манипулиране на изборни резултати.

Неправилно прилагане на изкуствения интелект

„Халюцинациите“ на изкуствения интелект могат да доведат до изкриване на информацията и фактите. През юни 2023 г. радиоводещ от щата Джорджия в САЩ заведе дело срещу OpenAI, след като ChatGPT неправилно заяви, че той е обвинен в измама и присвояване на средства от организация с нестопанска цел.

Погрешно представяне на информацията от изкуствения интелект

Тази категория от рискове обхваща сценарии, при които изкуственият интелект е използван целенасочено за разпространението на вълшива информация, като например снимките и видеата за катастрофите на камиона на Tesla, които се разпространяват в мрежата.

Манипулиране на финансовите пазари за публични компании

Маркетингът на публични компании и IPO е тема, която ме вълнува живо, затова някак как да не споделя, че изкуственият интелект и фалшивата информация, която разпространява може директно да повлияе върху цените на акциите на публичните компании. Което е проблем. Особено, ако компанията няма маркетинг екип и не се вълнува от публичния си имидж и комуникация с инвеститорите.

Пример за това са публикациите за експлозия в Пентагона, които понжиха акциите на Уолстрийт, защото много хори повярваха, че това действително се е случило.

И още …

Какви могат да са рисковете за бизнеса ви, ако AI – генерирата ви маркетинг стртаегия се окаже .. ммм, не съвсем адекватна

Разработване на маркетингова стратегия базирана на анализ от AI – същестува риск да е базирана на фалшиви ревюта и манипулирани отзиви, което да доведе до:

• 60% спад в ефективността на маркетинговите кампании.
• До 300% увеличение на разходите за привличане на клиенти.
• Средно 43% от бюджета за продуктово развитие отива за функционалности, които не отговарят на реалните нужди на пазара.

Създаване на профил на Идеалния клиент, базиран на информация и данни от ботове и фалшиви профили:

• Между 15% и 30% от профилите в социалните мрежи показват признаци на автоматизирана или манипулативна активност.
• Компаниите инвестират средно около 10-25% от годишния си оборот за маркетинг стратегии – представете си загубите, ако те са базирани на ненадеждни данни.

Вземане на решения за навлизане на нови пазари базирани на AI анализ:

• Средно 54% спад в доверието на потребителите към компании, използващи AI-генерирано съдържание без позоване на данни или цитирани данни и източници.

Дезинформацията, AI и преосмисляне на бизнес моделите

Вчера, 07.01.2025г, в своя личен профил Марк Зукърбърг направи историческо обръщение и заяви: „Време е да се върнем към корените – платформа, където общностите сами определят какво е истина. Вярвам в колективната мъдрост на нашите потребители повече, отколкото в която и да е централизирана система за проверка на фактите.“

Facebook достига 2.9 милиарда активни потребители месечно. Онова, за което Марк не говори в изявлението си, а трябва, са фалшивите профили.

Спекулира се, че в момента фалшивите профили във Facebook са между 15% и 30% (а може и повече) или както докладите сочат – “ между 15% до 30% от профилите показват признаци на автоматизирана или манипулативна активност„.

Илън Мъск отдаване не е просто е един от най-богатите хора на планетата – той е визионер, ролеви модел за много, но вече е на път и да се превърне в един от най-влиятелните хора на планетата и да оказва пряка намеса върху световните политически процеси.

• Илън Мъск оказва подкрепа на партията АзГ и критикува германския президент Франк-Валтер Щайнмайер.
• Вицеканцлерът Роберт Хабек определи коментарите на Мъск като атака срещу ЕС, целяща отслабването му.
• Мултимилиардерът се намеси и в политиката на Великобритания.

Това са само част от заглавията, с които се свързва името му през последните няколко седмици след победата на Тръмп. Но преди това, разбира се, Мъск обяви публична подкрепа за президентската кампания на Тръмп, съпроводена с дарение от $5 милиона и безплатно рекламно пространство в X на стойност над $4 милиона. 

И ако си мислите, че това не ни засяга В България – нищо подобно.

Все още малкият и среден с бюджети до 1000лв/месечно разчита основно на Facebook и Instagram, за да продава онлайн и да рекламира своите продукти и услуги.

Сега си представете как тези 1000лв. отиват, за да обучавате с тях ботовете на изкуствения интелект и таргетирате фалшиви профили. Не изглежда обнадеждаващо, нали?

Чакайте, може да стане още по-зле.

Представете си свят, в който не можете да вярвате на нищо, което виждате или четете. Свят, в който истината е като пясък между пръстите ни – колкото повече се опитваме да я задържим, толкова по-бързо се изплъзва. Дезинформацията, създадена от изкуствен интелект, е най-сериозната краткосрочна глобална заплаха за следващите две години. И това не е просто поредната алармистка прогноза – това е нашата реалност днес.

Залезът на демократичните ценности: От Вашингтон до Пекин

В последните години станахме свидетели на безпрецедентно настъпление срещу демократичните устои в световен мащаб. Възходът на авторитарни лидери като Доналд Тръмп в САЩ, Владимир Путин в Русия, Си Дзинпин в Китай, Реджеп Тайип Ердоган в Турция, Александър Вучич в Сърбия и Виктор Орбан в Унгария бележи една тревожна тенденция – постепенното отстъпление на демократичните ценности пред популизма и авторитаризма.

„През последните две години комисията по външната намеса събра всеобхватни и твърди доказателства за чуждестранна намеса и манипулации на информацията онлайн в множество либерални демокрации по света от злонамерени сили“, коментира заплахата Сандра Калниете (ЕНП, Латвия) пред Европейския парламент. Тя е автор на доклада на Парламента, който изисква от Комисията да предложи многопластова стратегия за мерки за възпиране на хибридни заплахи и атаки от други страни. Стратегията следва да включва колективни санкции, мерки за подобряване на медийната грамотност, противодействие на кампании в социалните мрежи и на тайно финансиране на политически партии, укрепване на киберсигурността и на защитата на институциите на ЕС.“

Изкуственият интелект: Новото оръжие за масова дезинформация на политиците

С нарастването на популярността на изкуствения интелект нараства и неговата роля за дезинформацията на обществото. Дезинформация, която авторитарните политически лидери подкрепят, видно с подкрепата на най-големите социални мрежи и медии, като част от своята стратегия за пропаганда и „окопаване“ във властта.

И да не звучат думите ми като „конспирация“, нека надникнем в биографията само на един от тях – Александър Вучич. Моделът и опитността на останалите не е по-различна.

Александър Вучич, текущият президент на Сърбия, който управлява авторитарно страната, макар Сърбия да е парламентарна република, е бил министър на информацията (да се чете „пропагандата“) и член на ръководството на Сръбската радикална партия на осъдения за военни престъпления Войслав Шешел, чиито паравоенни групи са извършили безброй военни престъпления в Хърватия и Босна.

Не случайно, свободата на медиите и пропагандата е един от най-големите проблеми в Сърбия в момента. Ако сте прекарали повече от една седмица в Сърбия и следите външната политика, ще знаете, че това не са просто „празни приказки“ и „спекулации“.

Последна вметка по политическата тема преди да продължа защо сляпото доверие в изкуствения интелект (AI) може да бъде пагубно за бизнеса – един репортаж на Deutsche Welle за троловете, фалшивите профили и как работи дезинформацията.

„Всички лъжат – как интернет разкрива тайните на човешката природа“

Това е една от най-любимите ми книги на Сет Стивънс-Давидовиц, която макар и издадена преди 6 години от Ciela на български език и до днес остава заглавие, което препоръчвам.

Сет получава достъп до анонимните търсения в Google, Facebook, X (Twitter) и най-посещаваните порно сайтове и в продължение на четири години изучава и анализира тази огромна база от човешки тайни. Резултатът е едно от най-революционните изследвания на човешката психика в историята и как се отнасяме към секса и връзките, политиката и религията, насилието и престъпността, расизма и предразсъдъците.

Защо се пристрастяваме към сайтове и игри? Какво се случва между 2 и 4 часа през нощта? Как най-често завършва изречението „Мъжът ми е…“? Кой е по-щедър в секса – мъжете или жените? Какво можем да научим от нашите двойници?

Все данни, които намирам за далеч по-интересни от всичко онова, което ще и каже AI.

Защо?

Защото AI не просто „халюциира“ и го прави твърде ефективно и твърде убедително – AI лъже. И с помощта на фалшивите новини, които се превръщат в световна тенденция с упадака на демокрацията, рискът лъжите му да стават все повече и все по-трудно различими не е за подценяване.

Да, изкуственият интелект (AI) вече играе и ще продължава да играе значителна роля в трансформацията на маркетинг дейностите и професиите през 2025 година. Прогнозите сочат, че AI ще замени или автоматизира множество рутинни задачи, което ще доведе до значителни промени в начина, по който се извършват маркетинговите стратегии и какви професии ще бъдат търсени, но аз лично бих се замислила дали си струва да спестя пари за създаването точно на маркетинг и бизнес стратегията за компанията си. Или да се доверя за наситина важните неща на експерт като Сет или някой с 20-30 години опит, който е в състояние с едно мигване на окото да отсее истината от лъжата и какво всъщност би сработило за даден екип или компания или не.

Светлина в тунела

Преди десет години, когато синът ми тръгна на училище (2014г), избрах да не се плаша от технологиите, от това, че „децата стоят пред телефоните си по цял ден“ и да не обвинявам „новото време“, че не четат. Избрах да превърна технологиите в инструмент за по-доброто образование и развитие на детето си, за по-ефективна работа, образование и подкрепа. И да споделя нашия опит и резултати с останалите. Създадох DigitalKidZ – фондация в обществена полза, която учи децата ни на критично мислене, на творчество, интуиция, развива емоционалната им интелигентност.

Аз лично вярвам в технологиите, но не им се доверям сляпо.

Вярвам, че AI, както и всички останали технологии са инструмент, а не заместител на човешката креативност и предизвикателството пред нас ще бъде как да съумеем да ги използваме за обогатяване, а не за подмяна на човешкия опит.

Когато се научим, ще съумеем и да възпитаме и децата си да го направят, а да не бъдат „дигитално зависими и пристрастени“.

Затова инвестирам опита и уменията си в бъдещето на бизнеса и бъдещето на децата и вярвам, че бъдещето макар понякога страшно не е предрешено. Бъдещето ни – нашето, на децата, на бизнеса ни ще бъде такова, каквото ние изберем да го направим – с помощта на AI, но водени от човешките ценности.