Armele de război care pot fi chiar mai periculoase decât bomba nucleară. "Vă puteți gândi la ceva mai terifiant?"

razboi  45

Dimensiune font:

| 07-08-2022 10:40

Într-un interviu pentru publicația germană Der Spiegel, expertul australian în tehnologie Toby Walsh discută despre efectele potențial devastatoare ale utilizării inteligenței artificiale pe câmpul de luptă. Nu putem scăpa de AI, spune el, dar trebuie să o aducem în concordanță cu valorile societății.

DER SPIEGEL: Războiul de agresiune rusesc împotriva Ucrainei pare uneori un test pentru sistemele de arme moderne. Ucraina s-a bazat foarte mult pe dronele turcești Bayraktar de la început, iar acum Rusia ar putea urma exemplul cu dronele iraniene. Ar putea aceste arme să fie folosite și în mod autonom în viitor, controlate cu ajutorul inteligenței artificiale (AI)?

Walsh: Da, utilizarea roboților ucigași controlați de AI este doar o chestiune de timp. Tocmai am avertizat într-un eseu despre un nou tip de mină antipersonal rusă numită POM-3. POM-3 se bazează pe un design german al Wehrmacht numit Schrapnellmine, numit în glumă „Bouncing Betty” de către soldații aliați. Asta pentru că această mină detectează pași, sare mai întâi în aer și apoi detonează la o înălțime de un metru pentru a sfârteca cât mai mulți soldați cu schije. Rusia a anunțat că va controla această mină folosind un software AI care poate distinge cu precizie dacă propriile sale unități rusești se apropie, caz în care nu va exploda sau dacă sunt soldați inamici, caz în care se va declanșa. Astfel de mine sunt groaznice. De aceea sunt scoase în afara legii la nivel internațional; 164 de state s-au angajat să nu le folosească, inclusiv Ucraina. Rusia nu se numără printre ele. Critica mea la adresa POM-3 mi-a dat acces la un club: am ajuns pe o listă cu interdicție de intrare și nu mai am voie să călătoresc în Rusia. O iau ca pe un compliment.
 

DER SPIEGEL: Forțele aeriene mondiale par să fie cu un pas înainte. Forțele aeriene australiane, de exemplu, testează în prezent noi tipuri de drone de luptă cu reacție semi-autonome împreună cu compania americană Boeing. Aceste drone interceptoare sunt menite să ofere piloților de bombardiere protecție de escortă ca așa-numit „camarad loial” (loyal wingman).

Walsh: Termenul „loyal wingman” este eufemistic și înșelător, sugerând că este vorba pur și simplu despre protejarea vieții umane, în acest caz a vieții piloților. Dar este vorba de fapt despre cu totul altceva: o cursă globală a înarmărilor AI a fost în desfășurare de mult timp, despre care publicul nu a fost în mare parte conștient până acum. Armata SUA dezvoltă un tanc robot numit Atlas. Marina SUA lucrează la o navă de război robotizată complet automatizată numită Sea Hunter, care a încheiat deja în mod autonom o călătorie din Hawaii până pe coasta Californiei. China dezvoltă, de asemenea, rachete controlate de AI. Și Rusia vrea să dezvolte un submarin autonom, fără pilot, numit Poseidon, care poate fi echipat chiar cu arme nucleare. E un coșmar. Vă puteți gândi la ceva mai terifiant decât un submarin în care, în loc de un căpitan, un program de calculator decide dacă începe un război nuclear?
 

DER SPIEGEL: Nu sunt acestea scenarii de groază care nu se împlinesc până la urmă?

Walsh: Deloc. Armele autonome sunt poate chiar mai periculoase decât bombele nucleare. Asta pentru că construirea unei bombe nucleare necesită o cantitate incredibilă de know-how, ai nevoie de fizicieni și ingineri remarcabili, ai nevoie de material fisionabil, ai nevoie de mulți bani. Prin urmare, din fericire, armele nucleare nu vor fi la îndemâna multor țări în viitorul apropiat. Cu armele AI, pe de altă parte, situația este destul de diferită. Adesea, sistemele de arme convenționale pe care fiecare mic lord războinic le are la dispoziție sunt suficiente; cu cipurile de computer și accesoriile adecvate de la o imprimantă 3D, acestea sunt apoi transformate într-o armă autonomă.

DER SPIEGEL: Ar fi asemenea arme sau câteva tancuri autonome Atlas sau fregate Sea Hunter cu adevărat decisive pentru război?

Walsh: Nu știu, dar ar putea declanșa accidental un război printr-o defecțiune, care ar fi apoi luptat cu arme convenționale sau echipamente de război și mai groaznice pe parcurs. Rusia, de exemplu, ar fi folosit o armă hipersonică în invazia sa din Ucraina, zburând spre ținta sa cu o viteză supersonică de multe ori. Într-un astfel de caz, apărătorii au puțin timp să reacționeze sau să excludă o alarmă falsă. Acest lucru accelerează războiul. Ar putea duce la un „război fulger”, un blitzkrieg în care sistemele informatice inamice se răscolesc reciproc în cel mai scurt timp posibil. Această automatizare a războiului are un efect destabilizator. Trebuie să prevenim asta cu orice preț.
 

DER SPIEGEL: Nu pot și armele semiautonome să salveze vieți? Sistemul american de apărare antirachetă Phalanx pentru apărarea navelor de război, de exemplu, răspunde la atacuri mult mai rapid decât ar putea un om.

Walsh: Sigur, dacă trebuie să te aperi de o armă hipersonică, e un lucru bun. Dar Phalanx este în mod clar un sistem defensiv. AI este de fapt mai puțin problematică cu armele defensive. Și totuși, utilizarea sa este, de asemenea, dificilă. Cât de fiabil este un astfel de sistem? Ce se întâmplă dacă software-ul recunoaște în mod eronat un avion de pasageri ca fiind o rachetă inamică și îl distruge?

DER SPIEGEL: Cine poartă răspunderea dacă armele robotizate comit crime de război? Încă din 2017, în Parlamentul European s-a discutat serios despre acordarea unor mașinării ceva asemănător statutului de persoană specială, pentru a putea fi trase la răspundere în cazul unei abateri.

Walsh: Da, dar la ce ar folosi asta? La urma urmei, corporațiile sunt considerate și „persoane juridice” în unele țări. Dar asta de multe ori nu este de mare ajutor atunci când vine vorba de crime.
 

DER SPIEGEL: Sunt deja folosiți roboții criminali ofensivi?

Walsh: Există multe speculații. Dar se pare că Turcia a trimis o dronă autonomă numită Kargu cu software de recunoaștere facială pentru a vâna oameni la granița cu Siria. Se pare că Kargu folosește aceiași algoritmi de recunoaștere facială ca și în smartphone-ul tău, cu toate erorile lor, pentru a identifica și ucide oameni pe teren. Imaginează-ți cât de înfricoșător ar fi să fii urmărit de un roi de drone ucigașe. Chiar dacă nu funcționează în mod deosebit de fiabil, desigur, dictaturile le-ar putea folosi pentru a îngrozi populația. Ar fi ideal pentru teroarea de stat.

DER SPIEGEL: Ar fi încă realist să scoți în afara legii armele controlate de AI, de exemplu printr-o contrapartidă la Tratatul de neproliferare nucleară, așa cum sugerezi în noua ta carte?

Walsh: Ei bine, scoaterea în afara legii poate să nu funcționeze întotdeauna perfect, dar poate preveni ce e mai rău. Există destul de multe exemple de arme care au fost folosite inițial, dar ulterior au fost scoase în afara legii. Gândiți-vă la utilizarea pe scară largă a gazelor otrăvitoare în Primul Război Mondial. Sau gândiți-vă la laserele orbitoare, care îi pot orbi pe soldați. Au fost scoase în afara legii printr-un protocol al Națiunilor Unite în 1998 și nu au mai apărut aproape niciodată pe câmpurile de luptă de atunci, deși tehnologia laserului civil este, după cum știm, utilizată pe scară largă. Pentru minele antipersonal, interdicția nu funcționează la fel de bine, dar cel puțin 40 de milioane dintre ele au fost distruse ca urmare a protocoalelor de scoatere în afara legii, salvând viețile multor copii. Este o poveste similară cu munițiile cu dispersie: aproximativ 99% din stoc a fost distrus, chiar dacă au fost folosite din nou în Siria. Ne putem asigura că armele autonome devin inacceptabile prin stigmatizarea lor.
 

DER SPIEGEL: În urmă cu doar patru ani, ai prezis un viitor glorios pentru AI în bestsellerul tău „It’s Alive”. Ce a dus la schimbarea părerii tale?

Walsh: Realitatea s-a întâmplat! Tocmai am văzut o mulțime de efecte secundare neplăcute ale AI. Treptat, a devenit din ce în ce mai clar în ce măsură publicitatea electorală a fost folosită pentru a pătrunde mintea oamenilor să voteze pentru Donald Trump sau pentru Brexit, ceea ce este adesea împotriva propriilor interese. Și prin programe de auto-învățare, aceste atacuri s-au transformat într-o furtună perfectă.

DER SPIEGEL: Vă dă speranță că Uniunea Europeană lucrează în prezent la o directivă privind „AI de încredere”?

Walsh: UE conduce într-adevăr calea când vine vorba de reglementarea AI. Și piața europeană este suficient de mare încât merită ca corporațiile globale să își adapteze produsele AI la regulile europene. Cu toate acestea, diavolul este în detalii. Formularea regulilor este un lucru, dar întrebarea este cât de energic va fi apoi aplicată respectarea regulilor.

DER SPIEGEL: Există deja diferențe considerabile de opinii în fazele preliminare, de exemplu cu privire la problema transparenței. Poate AI să fie cu adevărat transparentă și inteligibilă – sau este întotdeauna, prin definiție, parțial o cutie neagră?

Walsh: Transparența este supraevaluată. Nici oamenii nu sunt transparenți – totuși, adesea avem încredere în ei în viața de zi cu zi. Am încredere în medicul meu, de exemplu, deși nu sunt un profesionist medical și nu pot înțelege deciziile sale în detaliu. Și chiar dacă habar n-am ce se întâmplă în interiorul său. Dar am încredere în instituțiile care îmi monitorizează medicul.

DER SPIEGEL: Cum ne putem asigura că un AI funcționează conform regulilor, chiar dacă nu îi cunoaștem codul în detaliu?

Walsh: Aceasta este o problemă dificilă, dar nu se limitează la AI. Companiile moderne sunt, de asemenea, o formă de inteligență supraumană. Nici măcar cea mai inteligentă persoană de pe planetă nu și-a putut construi singur un iPhone. Nimeni nu este suficient de inteligent pentru a proiecta singur o centrală electrică. Fiecare mare corporație interconectează inteligența a zeci de mii de angajați cu inteligență moderată pentru a forma un colectiv supraomenesc de inteligent – ​​cu alte cuvinte, un fel de inteligență artificială, cum ar fi.

DER SPIEGEL: Nu am putea pur și simplu să scoatem din priză un sistem AI care se comportă prost și gata?

Walsh: În niciun caz! Nu putem doar să oprim computerele sistemului bancar global, atunci economia globală s-ar prăbuși. Nu putem opri nici calculatoarele de control al traficului aerian, atunci traficul s-ar prăbuși. De asemenea, nu putem opri computerele centralelor electrice, pentru că atunci am experimenta o întrerupere. Suntem deja total dependenți de computere astăzi. Această dependență doar crește cu AI. Nu putem scăpa de ea. Putem încerca doar să ne asigurăm că valorile AI sunt în armonie cu valorile societății noastre.

DER SPIEGEL: Odată ați prezis corect că o mașină cu conducere autonomă va provoca un accident mortal cu un biciclist și un pieton, ceea ce s-a întâmplat exact un an mai târziu. Ce preziceți pentru următorii cinci ani?

Walsh: Cu recunoașterea facială automată, vom vedea scandaluri. Startup-ul american Clearview AI a adunat milioane de fotografii fără acordul persoanelor implicate. Compania a fost dată în judecată pentru asta, dar continuă. Este incredibil că nu au fost deja trimiși în faliment. Și încă o predicție: falsurile profunde (deep fake) – adică filme și fotografii manipulate cu ajutorul AI pe internet – vor crește. În câțiva ani, falsurile profunde vor decide alegerile sau vor declanșa un război – sau chiar ambele. 

 

 

 

 

 

Puncte preluare anunturi  "Evenimentul Regional al Moldovei"  in Iasi

<>

Adauga comentariul tau

Nume:

E-mail:

Comentariu:

Security Code
Imagine noua
ULTIMA ORA
BANCUL ZILEI

05:12

1. Informatii generale privind autoritatea contractanta, in special denumirea, codul de identificare fiscala, adresa, numarul de telefon, fax si/sau adresa de e-mail, persoana de contact: Comuna Gura Vaii, cu sediul social in comuna Gura Vaii, satul Gura Vaii, Str. Primariei nr. 2, judetul Bacau, cod postal 607220, telefon 0371/407.500, fax 0372/002.112, e-mail: primariaguravaii@yahoo.com, cod fiscal 4278108. 2. Informatii generale privind obiectul procedurii de licitatie publica, in special descrierea si identificarea bunului care urmeaza sa fie vandut: - teren in suprafata de 316 mp, situat in intravilanul comunei Gura Vaii, satului Rotunda, nr. Cadastral 62185, CF 62185, apartinand domeniului privat al Comunei Gura Vaii, conform H.C.L. Comunei Gura Vaii nr. 09/22.01.2024, caietului de sarcini si temeiului legal: O.U.G. nr. 57/03.07.2019. 3. Informatii privind documentatia de atribuire: se regasesc in caietul de sarcini. 3.1. Modalitatea sau modalitatile prin care persoanele interesate pot intra in posesia unui exemplar al documentatiei de atribuire: la cerere, de la sediul institutiei, Compartimentul Achizitii Publice sau se poate consulta pe site-ul: www.uatcomuna guravaii.ro, sectiunea -Anunturi. 3.2. Denumirea si datele de contact ale serviciului/ compartimentului din cadrul vanzatorului, de la care pot obtine un exemplar din documentatia de atribuire: de la Compartimentul Achizitii Publice, din cadrul Comunei Gura Vaii, comuna Gura Vaii, sat Gura Vaii, Str. Primariei nr. 2, judetul Bacau. 3.3. Costul si conditiile de plata pentru obtinerea acestui exemplar, unde este cazul, potrivit prevederilor O.U.G. nr. 57/2019 privind Codul administrativ: 100 Lei/exemplar, ce se achita numerar la Casieria institutiei, sau in contul de trezorerie RO17 TREZ 0625 006X XX00 0079, deschis la Trezoreria Onesti, cod fiscal: 4278108. 3.4. Data-limita pentru solicitarea clarificarilor: 27.03.2024, ora 12.00. 4. Informatii privind ofertele: 4.1. Data-limita de depunere a ofertelor: 04.04.2024, ora 14.00. 4.2. Adresa la care trebuie depuse ofertele: Registratura Comunei Gura Vaii, comuna Gura Vaii, sat Gura Vaii, Str. Primariei nr. 2, judetul Bacau. 4.3. Numarul de exemplare in care trebuie depusa oferta: intr-un singur exemplar, intr-un plic sigilat. 5. Data si locul la care se va desfasura sedinta publica de deschidere a ofertelor: 05.04.2024, ora 09.00, Comuna Gura Vaii, comuna Gura Vaii, sat Gura Vaii, Str. Primariei nr. 2, judetul Bacau. 6. Denumirea, adresa, numarul de telefon si/sau adresa de e-mail ale instantei competente in solutionarea litigiilor aparute si termenele pentru sesizarea instantei: Judecatoria Onesti, cu sediul in municipiul Onesti, Str. Tineretului nr. 1, judetul Bacau, telefon 0234/311.913, fax 0234/326.170, e-mail: jud-onesti-reg@just.ro. 7. Data transmiterii anuntului de licitatie catre institutiile abilitate, in vederea publicarii: 08.03.2024.
ANUNȚ DE LICITAȚIE. Primăria Comunei Valea Lupului, jud. Iași, cu sediul în Com. Valea Lupului, Aleea Irisului nr. 8, CUI 16384625, tel 0232/272590, e-mail: primaria_valealupului@yahoo.com, patrimoniu@comuna-valealupului.ro, organizează în data de 29.03.2024, licitație în vederea vânzării terenului intravilan în suprafață de 16.000,00 mp, nr. cadastral 96128, CF nr. 96128, zona Dedeman. 1. Informaţii generale privind concedentul, în special denumirea, codul fiscal, adresa, numărul de telefon, telefax şi/sau adresa de e-mail a persoanei de contact etc: UAT Comuna Valea Lupului, jud. Iași, cu sediul în Com. Valea Lupului, Aleea Irisului nr. 8, CIF 16384625, tel 0232/272590, e-mail: primaria_valealupului@yahoo.com, patrimoniu@comuna-valealupului.ro 2. Informații generale privind obiectul procedurii de licitație publică, în special descrierea și identificarea bunului care urmează să fie vândut: teren intravilan în suprafață de 16.000 mp, situat în Sat Uricani, Comuna Miroslava, județul Iași, zona Dedeman, nr. cadastral 96128, CF nr. 96128, teren proprietate privată a Comunei Valea Lupului 3. Informații privind documentația de atribuire: se regăsesc în caietul de sarcini 3.1 Modalitatea sau modalitățile prin care persoanele interesate pot intra în posesia unui exemplar al documentației de atribuire: la cerere, de la sediul autorității sau de pe site-ul autorității wwww.comuna-valealupului.ro 3.2 Denumirea și datele de contact ale serviciului/compartimentului din cadrul vânzătorului, de la care pot obține un exemplar din documentația de atribuire: de la Registratura primăriei, Aleea Irisului nr. 8, sat Valea Lupului, Comuna Valea Lupului, județul Iași sau de pe site-ul autorității: www.comuna-valealupului.ro 3.3 Costul și condițiile de plată pentru obținerea acestui exemplar, unde este cazul, potrivit prevederilor O.U.G. nr. 57/2019 privind Codul administrativ: gratuit 3.4 Data-limită pentru solicitarea clarificărilor: 20.03.2024, orele 16.00 4. Informații privind ofertele: se regasesc în caietul de sarcini 4.1 Data-limită de depunere a ofertelor: 29.03.2024, orele 09.00 4.2 Adresa la care trebuie depuse ofertele: Comuna Valea Lupului, Aleea Irisului nr. 8, Județul Iași 4.3 Numărul de exemplare în care trebuie depusă oferta: un singur exemplar original 5. Data și locul la care se va desfașura ședința publică de deschidere a ofertelor: 29.03.2024, orele 11.00, Primăria Comunei Valea Lupului - Sala de consiliu, Aleea Irisului nr. 8, Comuna Valea Lupului, Județul Iași 6. Denumirea, adresa, numarul de telefon și/sau adresa de e-mail ale instanței competente în soluționarea litigiilor apărute și termenele pentru sesizarea instanței: Tribunalul Iași, Strada Elena Doamna nr. 1A, telefon: 0232.260.600, 0232.248.000, 0332.403.666, Fax: 0332.435.700, e-mail: tr-iasi-reg@just.ro PRIMAR, Florin-Liviu DULGHERU
Cercetătorii transumaniști lucrează la crearea de embrioni umani cu ADN provenind de la doi bărbați
27/03/2024 14:02

Oamenii de stiintă sunt "tot mai aproape" de a crea embrioni umani folosind ADN-ul a doi bărbati si nicio femeie. Cercetările sunt efectuate de oamenii de stiintă de la Oregon Health & Science University (O ...

Roboții românilor vor lucra în 2.500 de magazine online
26/03/2024 04:48

  O echipă de tineri romani, fondatorii unei companii de tehnologie, a conceput cinci roboţi pe bază de Inteligenţă Artificială (AI), care pot munci non-stop in funcţii de manager de brand, agent d ...

23 martie - Ora Pământului
23/03/2024 10:55

Desfăşurată in ultima sambătă a lunii martie, pe 23 martie 2024, Ora Pămantului (Earth Hour) este cunoscută pentru momentul "stingerea luminilor", la care au participat oameni din intreaga lume ...

De ce a fost anulată lansarea navei spațiale rusești Soyuz cu câteva secunde înainte de decolare
22/03/2024 00:15

Joi era programată lansarea unei nave spatiale rusesti Soyuz spre Statia Spatială Internatională (ISS). Cu cateva secunde inainte de decolare, aceasta a fost anulată, iar echipajul, format dintr-un rus, un ...

Chinezii pregătesc o lege privind utilizarea Inteligenței Artificiale
21/03/2024 11:54

Academicieni chinezi au prezentat la Beijing o propunere pentru o lege privind inteligenţa artificială (AI) menită să reglementeze utilizarea acestei tehnologii in gigantul asiatic, informează EFE. Proiec ...

DEZASTRU! Au piat Facebook și Instagram!
05/03/2024 18:40

Mai multe servicii apartinand companiei Meta, cele mai importante fiind Facebook si Instagram au devenit inaccesibile pentru foarte multi utilizatori in această după amiază, 5 martie, in jurul orei 17.30. ...

Schimbări majore la WhatsApp: Ce vor putea face utilizatorii
29/02/2024 14:02

WhatsApp a adăugat recent patru noi optiuni de formatare a textului, pentru a imbunătăti experienta utilizatorilor in comunicare. Aceste optiuni includ posibilitatea de a crea liste cu marcaje si numerotări ...

Polistirenul NU arde. Diferența față de vata minerală
24/02/2024 10:43

Odată cu incendiul din Valencia, a reajuns in spatiul public ipoteza conform căreia focul s-ar fi intins rapid din cauza anvelopării cu polistiren. Întretinerea arderii de către polistirenul folosit ...

ChatGPT a luat-o razna. A început să emită cuvinte fără niciun înțeles
22/02/2024 13:20

Foarte populara interfaţă a inteligenţei artificiale (AI) generative ChatGPT, care a făcut cunoscută această tehnologie, a luat-o razna timp de mai multe ore şi le-a răspuns utilizatorilor prin fraze f ...

 Oamenii autotrofi. O viață în simbioză cu energia solară
22/02/2024 09:30

Într-o lume in care consumul excesiv de resurse naturale si poluarea au devenit o amenintare reală pentru mediul inconjurător, oamenii au căutat mereu modalităti de a trăi mai sustenabil. Un grup de ...

Aboneaza-te la cele mai noi stiri din Regiunea Moldovei