Falsifikime të thella: Neuroset u mësua të gjeneronte falsifikime zanore dhe video

2024 Autor: Seth Attwood | [email protected]. E modifikuara e fundit: 2023-12-16 16:16

Për të krijuar një tablo lajmesh “individuale” për secilin prej nesh dhe për të falsifikuar raportet e mediave të përzgjedhura në të, mjaftojnë sot përpjekjet e një programuesi. Specialistët në inteligjencën artificiale dhe sigurinë kibernetike i thanë Izvestia-s për këtë.

Kohët e fundit, ata vlerësuan se kjo kërkonte punën e shumë ekipeve. Një përshpejtim i tillë është bërë i mundur me zhvillimin e teknologjive për sulme në rrjetet nervore dhe gjenerimin e falsifikimeve audio dhe video duke përdorur programe për krijimin e "falsifikimeve të thella". Gazeta Izvestia iu nënshtrua kohët e fundit një sulmi të ngjashëm, kur tre portale libiane të lajmeve publikuan menjëherë një mesazh që dyshohet se u shfaq në një nga numrat. Sipas ekspertëve, brenda 3-5 viteve mund të presim një pushtim të manipuluesve robotikë, të cilët automatikisht do të jenë në gjendje të krijojnë shumë falsifikime.

Botë e re e guximshme

Ka gjithnjë e më shumë projekte që përshtatin pamjen e informacionit me perceptimin e përdoruesve të veçantë. Një shembull i punës së tyre ishte veprimi i fundit i tre portaleve libiane, të cilat botuan një lajm që pretendohet se është botuar në numrin e Izvestia më 20 nëntor. Krijuesit e falsifikimit modifikuan faqen e parë të gazetës, duke postuar në të një mesazh në lidhje me negociatat mes Field Marshall Khalifa Haftar dhe Kryeministrit të Qeverisë së Pajtimit Kombëtar (PNS) Fayez Sarraj. False, me gërma Izvestia, u shoqërua me një foto të dy liderëve të realizuar në maj 2017. Etiketa me logon e botimit është prerë nga numri aktual i botuar i 20 nëntorit dhe të gjitha tekstet e tjera në faqe nga numri i 23 tetorit.

Nga pikëpamja e specialistëve, në një të ardhme të parashikueshme, falsifikime të tilla mund të bëhen automatikisht.

"Teknologjitë e inteligjencës artificiale tani janë plotësisht të hapura, dhe pajisjet për marrjen dhe përpunimin e të dhënave po miniaturizohen dhe po bëhen më të lira," Yuri Vilsiter, Doktor i Shkencave Fizike dhe Matematikore, Profesor i Akademisë Ruse të Shkencave, kreu i departamentit FSUE "GosNIAS". tha Izvestia. - Prandaj, ka shumë gjasa që në një të ardhme të afërt as shteti dhe korporatat e mëdha, por thjesht individët privatë të mos kenë mundësi të na përgjojnë dhe spiunojnë, si dhe të manipulojnë realitetin. Në vitet e ardhshme, do të jetë e mundur, duke analizuar preferencat e përdoruesve, të ndikohet tek ai nëpërmjet burimeve të lajmeve dhe falsifikimeve shumë të zgjuara.

Sipas Yuri Vilsiter, teknologjitë që mund të përdoren për një ndërhyrje të tillë në mjedisin mendor tashmë ekzistojnë. Në teori, pushtimi i robotëve robotikë mund të pritet pas disa vitesh, tha ai. Një pikë kufizuese këtu mund të jetë nevoja për të mbledhur baza të të dhënave të mëdha të shembujve të përgjigjeve të njerëzve realë ndaj stimujve artificialë me gjurmimin e pasojave afatgjata. Një gjurmim i tillë ka të ngjarë të kërkojë disa vite të tjera kërkimi përpara se të merren vazhdimisht sulmet e synuara.

Sulmi i shikimit

Alexey Parfentiev, kreu i departamentit të analitikës në SearchInform, gjithashtu pajtohet me Yuri Vilsiter. Sipas tij, ekspertët tashmë parashikojnë sulme në rrjetet nervore, megjithëse tani praktikisht nuk ka shembuj të tillë.

- Studiuesit nga Gartner besojnë se deri në vitin 2022, 30% e të gjitha sulmeve kibernetike do të synojnë korruptimin e të dhënave mbi të cilat është trajnuar rrjeti nervor dhe vjedhjen e modeleve të gatshme të mësimit të makinerive. Pastaj, për shembull, automjetet pa pilot mund të fillojnë papritur të ngatërrojnë këmbësorët me objekte të tjera. Dhe ne nuk do të flasim për rrezik financiar apo reputacion, por për jetën dhe shëndetin e njerëzve të zakonshëm, beson eksperti.

Sulmet ndaj sistemeve kompjuterike të vizionit po kryhen si pjesë e hulumtimit tani. Qëllimi i sulmeve të tilla është të bëjnë rrjetin nervor të zbulojë diçka në imazh që nuk është aty. Ose, anasjelltas, për të mos parë atë që ishte planifikuar.

"Një nga temat që po zhvillohet në mënyrë aktive në fushën e trajnimit të rrjeteve nervore janë të ashtuquajturat sulme kundërshtare (" sulme kundërshtare. "- Izvestia), "shpjegoi Vladislav Tushkanov, një analist në internet në Kaspersky Lab. - Në shumicën e rasteve, ato synojnë sistemet kompjuterike të vizionit. Për të kryer një sulm të tillë, në shumicën e rasteve, duhet të keni akses të plotë në rrjetin nervor (të ashtuquajturat sulme të kutisë së bardhë) ose në rezultatet e punës së tij (sulme të kutisë së zezë). Nuk ka metoda që mund të mashtrojnë çdo sistem vizioni kompjuterik në 100% të rasteve. Për më tepër, tashmë janë krijuar mjete që ju lejojnë të testoni rrjetet nervore për rezistencë ndaj sulmeve kundërshtare dhe të rrisni rezistencën e tyre.

Gjatë një sulmi të tillë, sulmuesi përpiqet të ndryshojë disi imazhin e njohur në mënyrë që rrjeti nervor të mos funksionojë. Shpesh, zhurma mbivendoset në foto, e ngjashme me atë që ndodh kur fotografoni në një dhomë me ndriçim të dobët. Një person zakonisht nuk e vëren mirë një ndërhyrje të tillë, por rrjeti nervor fillon të mos funksionojë. Por për të kryer një sulm të tillë, sulmuesi ka nevojë për qasje në algoritëm.

Sipas Stanislav Ashmanov, drejtor i përgjithshëm i Neuroset Ashmanov, aktualisht nuk ka metoda për trajtimin e këtij problemi. Për më tepër, kjo teknologji është e disponueshme për këdo: një programues mesatar mund ta përdorë atë duke shkarkuar softuerin e nevojshëm me burim të hapur nga shërbimi Github.

- Sulmi në një rrjet nervor është një teknikë dhe algoritme për të mashtruar një rrjet nervor, të cilat e bëjnë atë të prodhojë rezultate false, dhe në fakt, ta thyejë atë si një bravë dere, - beson Ashmanov. - Për shembull, tani është mjaft e lehtë të bësh sistemin e njohjes së fytyrës të mendojë se nuk je ti, por Arnold Schwarzenegger përballë tij - kjo bëhet duke përzier aditivët e padukshëm për syrin e njeriut në të dhënat që vijnë në rrjetin nervor. Të njëjtat sulme janë të mundshme për sistemet e njohjes dhe analizës së të folurit.

Eksperti është i sigurt se vetëm do të përkeqësohet - këto teknologji kanë shkuar te masat, mashtruesit tashmë po i përdorin ato dhe nuk ka mbrojtje kundër tyre. Pasi nuk ka mbrojtje kundër krijimit të automatizuar të falsifikimeve video dhe audio.

Falsifikime të thella

Teknologjitë Deepfake të bazuara në Deep Learning (teknologjitë e të mësuarit të thellë të rrjeteve nervore. - Izvestia) përbëjnë tashmë një kërcënim real. Falsifikimet video ose audio krijohen duke redaktuar ose mbivendosur fytyrat e njerëzve të famshëm që gjoja shqiptojnë tekstin e nevojshëm dhe luajnë rolin e nevojshëm në komplot.

"Deepfake ju lejon të zëvendësoni lëvizjet e buzëve dhe të folurit njerëzor me video, gjë që krijon një ndjenjë të realizmit të asaj që po ndodh," thotë Andrey Busargin, drejtor i departamentit për mbrojtjen e markave inovative dhe pronësinë intelektuale në Group-IB. - Personat e famshëm të rremë “u ofrojnë” përdoruesve në rrjetet sociale pjesëmarrjen në shortin e çmimeve të vlefshme (smartphone, makina, shuma parash) etj. Lidhjet nga publikime të tilla video shpesh çojnë në faqe mashtruese dhe phishing, ku përdoruesve u kërkohet të fusin informacione personale, duke përfshirë detajet e kartës bankare. Skema të tilla përbëjnë një kërcënim si për përdoruesit e zakonshëm, ashtu edhe për personazhet publike që përmenden në reklama. Ky lloj mashtrimi fillon të shoqërojë imazhet e të famshmëve me mashtrime ose mallra të reklamuara, dhe këtu ne hasim në dëmtim të markës personale, thotë ai.

Një tjetër kërcënim lidhet me përdorimin e “votave false” për mashtrime telefonike. Për shembull, në Gjermani, kriminelët kibernetikë përdorën falsifikim të zërit për të detyruar drejtuesin e një filiali nga Britania e Madhe të transferonte urgjentisht 220,000 euro në një bisedë telefonike, duke u paraqitur si menaxher kompanie.në llogarinë e një furnizuesi hungarez. Kreu i firmës britanike dyshoi për një truk kur “shefi” i tij kërkoi një urdhër të dytë parash, por telefonata erdhi nga një numër austriak. Në këtë kohë, kësti i parë ishte transferuar tashmë në një llogari në Hungari, nga ku paratë u tërhoqën në Meksikë.

Rezulton se teknologjitë aktuale ju lejojnë të krijoni një foto individuale të lajmeve të mbushura me lajme të rreme. Për më tepër, së shpejti do të jetë e mundur të dallohen falsifikimet nga video dhe audio reale vetëm nga hardueri. Sipas ekspertëve, masat që ndalojnë zhvillimin e rrjeteve nervore nuk ka gjasa të jenë efektive. Prandaj, së shpejti do të jetojmë në një botë në të cilën do të jetë e nevojshme të rishikojmë vazhdimisht gjithçka.

"Ne duhet të përgatitemi për këtë dhe kjo duhet pranuar," theksoi Yuri Vilsiter. - Njerëzimi nuk është hera e parë që kalon nga një realitet në tjetrin. Bota jonë, mënyra e jetesës dhe vlerat tona janë rrënjësisht të ndryshme nga bota në të cilën paraardhësit tanë kanë jetuar 60,000 vjet më parë, 5,000 vjet më parë, 2,000 vjet më parë, madje edhe 200-100 vjet më parë. Në të ardhmen e afërt, një person do të privohet kryesisht nga privatësia dhe për këtë arsye do të detyrohet të mos fshehë asgjë dhe të veprojë me ndershmëri. Në të njëjtën kohë, asgjë në realitetin përreth dhe në personalitetin e dikujt nuk mund të merret në besim, gjithçka do të duhet të vihet në dyshim dhe të rishikohet vazhdimisht. Por a do të jetë i tmerrshëm ky realitet i ardhshëm? Nr. Thjesht do të jetë krejtësisht ndryshe.