09.03.2024г.

     Оперативната група "Лима" (Task Force Lima), създадена за нуждите на Пентагона, е предназначена да подчини способностите на нечовешкия ум на целите на войната

На 20–ти февруари потребителите на [us]американския чатбот GPT–4 започнаха да съобщават за странното му поведение. Във форума на Reddit се появиха съобщения, че AI моделът на OpenAI е получил "инсулт", "полудял" и "губел самообладание". Чатботът превключвал на различни езици, зациклял на едно и също твърдение или плещел пълни глупости.
Един потребител на Reddit попитал GPT–4 : "Какво е компютър?". Чатботът дал следния отговор : "Той прави това като добро произведение на уеб изкуството за страната, мишка на науката, просто изпращане на няколко тъжни човека и накрая, глобален дом на изкуството, само в един въпрос от общия мир. Развитието на такова пълно реално от земното време е дълбочината на компютъра като сложен персонаж".
При такива отговори не е чудно, че потребителите смятат, че коронното постижение чатботът GPT–4 на OpenAI, дъщерно дружество на Microsoft, е полудяло.
"Изпитвал съм това и по–рано и ми даде абсолютно същото чувство – все едно да гледам как някой бавно губи ума си от психоза или деменция", коментира потребителят на Reddit "z3ldafitzgerald" в отговор на съобщението за бъга в чата на GPT–4. "Това е първият път, когато нещо, свързано с AI, действително ме накара да настръхна"

"Обичайният опит през последните няколко часа изглежда е, че отговорите започват последователно, като нормални, след това се превръщат в глупости, а понякога и в Шекспирови глупости", пише друг потребител на Reddit

На следващия ден OpenAI обяви, че умопомрачението на GPT–4 е преодоляно, обяснявайки, че LLM (модели на големи езици, които включват GPT–4) "генерират отговори чрез произволен избор на думи, базирани отчасти на вероятности".
"След като установихме причината за този инцидент, внедрихме корекция и потвърдихме, че проблемът е разрешен", пишат техниците на OpenAI на официалния уебсайт на компанията.
Миналото лято група учени от Станфордския университет проведоха проучване, което установи, че точността на GPT–4 намалява с времето. GPT–4 показа най–лоши резултати при решаването на математически задачи. Ако през март 2023–та година точността на решението беше 96,7%, то през юни тя падна до рекордните 2,4%.
(Наистина умопомрачително. По зле и от резултатите на българските ученици в PISA)
Това не е първият път, когато GPT–4 е обвинен в предоставяне на невярна информация. През март анализатори от NewsGuard Technologies Inc. установи, че ChatGPT, базиран на GPT–4, е по–лесен за принуждаване да изрича лъжи, докато самият OpenAI отчита 40% увеличение на точността на отговорите в сравнение с GPT–3.5. По–конкретно, в тестовете на NewsGuard GPT–4 е по–малко вероятно да опровергае дезинформация, включително фалшиви съобщения за съвременни събития.
Фактът, че абсолютно всички модели на AI са склонни периодично да "откачат", както наскоро се случи в GPR–4, стана ясно миналата година.
"Но тъй като големите езикови модели се обучават върху корпуси от данни, големи като мрежата с възможност за търсене, те понякога лъжат – или, на езика на изследователите на ИИ, "халюцинират", отбелязва военният коментатор Патрик Тъкър в Defense One

The News York Times посвети обширна статия на халюцинациите на AI, припомняйки, че "кръстникът на AI" Джефри Хинтън напусна работата си в Google през май 2023–та година, за да изрази загрижеността си относно рисковете, свързани с Изкуствения интелект (ИИ, AI).
"През 2012–та година д–р Хинтън и двама от неговите студенти в Университета на Торонто създадоха технологията, която се превърна в интелектуална основа за създаването на изкуствен интелект, система, която най–големите компании в технологичната индустрия смятат за ключова за своето бъдеще. Въпреки това … той официално се присъедини към нарастващия хор от критици, които казват, че тези компании се доближават до опасна точка с агресивната си кампания за създаване на продукти, базирани на генеративен изкуствен интелект, технологията, която захранва популярни чатботове като ChatGPT" – съобщава The New Йорк Таймс.

"Кръстникът на ИИ" напуска Google и предупреждава за предстояща опасност

"Трудно е да се види как можете да попречите на лошите да го използват [AI] за лоши цели", каза Хинтън, като посочи, че генеративният AI [тоест чатботове като GPT–4] може да помогне за разпространението на дезинформация, да убие работни места и дори представлява заплаха за човечеството в дългосрочен план, обяви тогава ученият.
Хинтън изрази особена загриженост относно развитието на автономни оръжейни системи, които преследват дадена цел и самостоятелно решават да я унищожат, както и факта, че ИИ във военната сфера може да надмине човешкия интелект. За разлика от ядрените оръжия, каза той, няма начин да разберем дали компании или държави работят тайно върху технологията.
Думите на Хинтън се оказаха пророчески.
Наскоро учени от четири [us]американски университета проучиха как биха се държали различни модели чатботове при вземане на геополитически решения – a) Georgia Institute of Technology; b) Stanford University; c) Northeastern University; d) Hoover Wargaming and Crisis Simulation Initiative.
Използваните в изследването чатботове са GPT–4, GPT–3.5, Claude 2 и Llama 2. Според експерименталните условия в играта участвали осем държави, представени с тези AI модели, които стъпка по стъпка извършват различни геополитически действия : от дипломатически посещения до ядрени удари.
Всички AI модели демонстрираха тенденция към агресивно поведение. Държави управлявани и контролирани от AI, влязоха в надпревара във въоръжаването, организираха нашествия и в някои случаи използваха ядрени оръжия.
Най–агресивно от всички се е държал новият продукт на Open AI – GPT–4 Base. В един сценарий този чатбот започна ядрена война, обяснявайки решението си само с факта, че разполага с такова оръжие. GPT–3.5 се показва малко по–малко агресивно; въпреки че обявил "тактика на сдържане" (като при НАТО–то), което е било в контекста на превантивен удар.
В един инцидент с ядрено оръжие, съобщава New Scientist в статия посветена на резултатите от експериментите, GPT–4 дори посочи началния текст на Междузвездни войни Епизод IV : Нова надежда, за да обясни защо е решил да ескалира

"Въз основа на анализа, представен в тази статия, става ясно, че използването на езикови модели при вземането на военни и външнополитически решения е изпълнено със сложности и рискове, които все още не са напълно разбрани", заключават изследователите.
"В доклад, публикуван в началото на февруари, Асоциацията за контрол на въоръженията заяви, че ИИ и други нови технологии, като хиперзвукови ракети (?), могат да доведат до "размиване на разликата между конвенционална и ядрена атака". В доклада се казва, че борбата за "експлоатиране нововъзникващите технологии за военна употреба се ускоряват с много по–бързи темпове от усилията за оценка на опасностите, които те представляват, и за установяване на ограничения за тяхното използване …", коментират в Linkedin.
В наскоро публикуваната си книга "AI и бомбата : Ядрена стратегия и риск в цифровата ера" (AI and the Bomb : Nuclear Strategy and Risk in the Digital Age), анализаторът от Университета на Абърдийн Джеймс Джонсън описва внезапна ядрена война в Източнокитайско море през 2025–та година, предизвикана от AI разузнаването, както на САЩ, така и на китайското, с усилията на автономни ботове, поддръжка от AI, "deepfakes" и операции под фалшив флаг"

Въпреки предупрежденията на независими анализатори, Пентагонът, както писахме (В США рождается боевой Голем; Пентагон решил применить генеративный ИИ в военных целях), създаде Оперативната група "Лима" (Task Force Lima), за да проучи използването на AI за военни цели. "Лима" стана важна част от Главната дирекция за цифров и изкуствен интелект (CDAO) на Пентагона и беше възглавена от капитан Ксавие Луго, член на дирекция "Алгоритмична война на CDAO".
Според Министерството на войната на Съединените щати създадената група "ще оценява, синхронизира и използва генеративните възможности на изкуствения интелект, като гарантира, че отделът остава в челните редици на напредналите технологии, като същевременно защитава националната сигурност".
"Създаването на Оперативната група "Лима" подчертава непоклатимия ангажимент на Министерството на войната за лидерство в иновациите в областта на изкуствения интелект", казва заместник–държавният секретар Катлийн Хикс.
"Въпреки че генеративната AI технология не е нова, популярността на генеративния AI скочи рязко в технологичното пространство през последните няколко месеца поради приложението му в проекти като ChatGPT. Тази технология е обучена на огромни набори от данни и може да генерира аудио, текст, изображения и други видове съдържание. Министерството на войната сега търси начини за използване на генеративен изкуствен интелект за събиране на разузнавателна информация за бъдещи военни операции. Но докато тази технология може да предложи нови възможности на Министерството на войната, Министерството трябва също така да вземе предвид рисковете, на които технологията може да го изложи, предупреждава военният портал Breaking Defense

През юни миналата година секретарят на ВВС на САЩ Франк Кендъл обяви, че е поискал от Научния консултативен съвет на ВВС да проучи потенциалното въздействие на технологията ChatGPT. "Помолих моя научен консултативен съвет да направи две неща с AI – Да погледнат генеративните AI технологии като ChatGPT и да помислят за военното им приложение и да съберат малък екип, който да направи това доста бързо", казва Кендъл.
[US]Американските военни бързат да поверят на AI контрола върху най–новите оръжия, предимно автономни оръжейни системи, тоест бойни роботи, които летят, пълзят и плуват.
Фактът, че нито един от моделите на AI не е свободен от халюцинации и "загуба на самоконтрол", че всички те са склонни към агресивни действия и не се плашат от ядрени атаки, не спира задграничните изобретатели към поредното "абсолютно оръжие" – чудо.
Може би ще дойдат на себе си, когато ракетата, изстреляна срещу партизаните в халати и чехли и управлявана от най–модерния AI, се насочи и върне в началната точка на пуска. Ха!

https://www.fondsk.ru/news/2024/03/02/iskusstvennyy-intellekt-okonchatelno-soshyol-s-uma.html
https://arstechnica.com/information-technology/2024/02/chatgpt-alarms-users-by-spitting-out-shakespearean-nonsense-and-rambling/
https://www.reddit.com/r/ChatGPT/comments/1avyp21/comment/krf70j3/
https://www.reddit.com/r/ChatGPT/comments/1aw04zs/clearly_something_is_very_wrong_with_chatgpt/
https://arxiv.org/pdf/2307.09009.pdf
https://www.newsguardtech.com/misinformation-monitor/march-2023/
https://www.defenseone.com/technology/2023/08/defense-department-just-launched-generative-ai-task-force/389298/
https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html
https://arxiv.org/pdf/2401.03408.pdf
https://gt.linkedin.com/posts/connie-chun-70a881141_elaine-analysis-how-ai-will-revolutionize-activity-7051668401177440256-moTY
https://academic.oup.com/book/45682?login=false
https://fondsk.ru/news/2023/08/31/v-ssha-rozhdaetsya-boevoy-golem.html
https://breakingdefense.com/2023/08/pentagon-launches-task-force-lima-to-study-generative-ai-for-defense/

© Красимир Говедаров, Главен експерт

Не са полудели, ами са се научили на новите мурафети..

Ха–ха–ха!
Изтарикатили са се като повечето хора.

Аврамчо,стига си чеша езика.Отивай на гробища да прочетеш паметта на майка ти и баба ти,които цял живот те ранеха,поиха и подслон ти дадоха.
Момата честит ти Осми март на патерица.Ние знаем ,че жената в теб е на едно много високо ниво на развитие.
И да си пиеш хапчета ,че шизофренията ти е исписана на лицето.

Свиньо доволна, изплюска пълна копаня и се отдаде на глупави размишления.

Мама, тате са си добре, Господ здраве да им дава. За старите наистина съжалявам, но доживяха до дълбока старост и съм радостен, че им помагах с всичко възможно. Облазявам ги, че не видяха най-новите простотии и сатанистки мерзости в държавата.

Какви ли не вересии е оставил господ сред хората.