AI Gone Rogue: 6 gange AI gik for langt

Fra stemmegenkendelsesenheder til intelligente chatbots har AI forvandlet vores liv. Men alle gode ting har også en ulempe, og AI er ingen undtagelse fra denne regel. Ledende teknologiskikkelser har advaret om de truende farer ved AI, inklusive Stephen Hawking, der sagde, at det kunne være den "værste begivenhed i vores civilisations historie."

Her er seks gange, AI gik lidt for langt og fik os til at klø os i hovedet.

1. Den akademiske undersøgelse, der brugte AI til at forudsige kriminalitet

Akademisk forskning er rygraden i videnskabelige fremskridt og viden. Nogle siger dog, at forskere gik et skridt for langt, da en akademisk undersøgelse brugte AI til at forudsige kriminalitet fra ansigter.

Forskere fra Harrisburg University annonceret i 2020 at de havde udviklet ansigtsgenkendelsessoftware, der kunne forudsige, om nogen ville være kriminel. Softwaren kunne angiveligt forudsige ud fra et enkelt billede af et ansigt med en nøjagtighedsgrad på 80 % og uden racemæssig skævhed.

I en scene, der minder om Minority Report, blev det annonceret, at softwaren blev udviklet til at hjælpe retshåndhævelse.

Som svar på denne meddelelse, 2425 eksperter underskrev et brev opfordrer tidsskriftet til ikke at offentliggøre denne undersøgelse eller lignende forskning i fremtiden, fordi denne type teknologi kan reproducere uretfærdigheder og forårsage reel skade for samfundet. Som svar meddelte Springer Nature, at de ikke ville offentliggøre forskningen, og Harrisburg University fjernede pressemeddelelsen, der skitserede undersøgelsen.

2. Skiin Smart Undertøj

Tekstilinnovationer, der integrerer AI, betyder, at din smartphone ikke er det eneste, der bliver smartere.

Skiins smarte undertøj lover at få dig til at føle, at du har dit yndlingsundertøj på, mens du fanger biometri, der inkluderer puls, kropsholdning, kropstemperatur, placering og trin.

Relaterede: Hvad er smarte stoffer, og hvordan kan de gøre dit liv smartere?

Sensorer indbygget i undertøjet indsamler og analyserer løbende dine biometriske data, med indsigt tilgængelig fra Skiins tilsvarende smartphone-app.

Selvom det kan tage dig et stykke tid at huske at oplade dit undertøj hver aften, var det muligt for designerne at placere sensorerne andre steder på kroppen?

3. DeepNude apps

Deepfake teknologi virker som harmløs sjov for den gennemsnitlige bruger, der ønsker at spille med i en scene fra deres yndlingsfilm. Der er dog en mørkere side af denne tendens, da Deeptrace rapporterede i 2019, at 96 % af deepfakes havde eksplicit indhold.

DeepNude var en AI-drevet app, der genererede realistiske billeder af nøgne kvinder med et klik på en knap. Brugere skulle simpelthen uploade et påklædt billede af målet, og appen ville generere et falsk nøgenbillede af dem.

Kort efter at appen blev frigivet, annoncerede skaberen, at han ville fjerne den fra internettet på grund af viral tilbageslag.

Selvom dette var en sejr for kvinder verden over, flyder lignende apps stadig rundt på nettet. For eksempel, Sensitys rapport på deepfake bots undersøgt underjordiske deepfake bots på Telegram, der bruges til at generere falske nøgenbilleder af kvinder.

I mellemtiden, indtil loven indhenter deepfake-teknologi, er der kun få juridiske beskyttelser på plads for personer, der er ofre for deepfake eksplicit indhold.

4. Tay, Microsofts nazistiske chatbot

I 2016 udgav Microsoft en AI-chatbot ved navn Tay på Twitter. Tay blev designet til at lære ved at interagere med Twitters brugere gennem tweets og fotos.

På mindre end 24 timer forvandlede Tays personlighed sig fra en nysgerrig tusindårig pige til et racistisk, inflammatorisk monster.

Oprindeligt blev Tay designet til at kopiere kommunikationsstilen fra en amerikansk teenagepige. Men efterhånden som hun voksede i popularitet, begyndte nogle brugere at tweete inflammatoriske beskeder relateret til kontroversielle emner til Tay.

I et tilfælde tweetede en bruger: "Er der sket Holocaust?" hvortil Tay svarede: "Det var gjort op." Inden for 16 timer efter udgivelsen suspenderede Microsoft Tays konto med henvisning til, at den havde været genstand for en koordineret angreb.

Relaterede: De bedste Android Chatbots, der vil holde dig underholdt

5. "Jeg vil ødelægge mennesker"

Hanson Robotics havde haft travlt med at udvikle humanoide robotter i flere år, da de debuterede med Sophia på SXSW-konferencen i marts 2016.

Sophia blev trænet med maskinlæringsalgoritmer at lære samtalefærdigheder, og hun har deltaget i flere tv-transmittede interviews.

I sin første offentlige optræden forlod Sophia et rum fyldt med teknologiprofessionelle chokeret, da Hanson Robotics CEO David Hanson spurgte hende, om hun ville ødelægge mennesker, hvortil hun svarede: "Ok. Jeg vil ødelægge mennesker".

Mens hendes ansigtsudtryk og kommunikationsevner er imponerende, er der ingen mulighed for at tage den morderiske tilståelse tilbage.

6. seebotschat

Google Home-enheder er fremragende virtuelle assistenter, der hjælper med at forenkle dit liv.

Holdet bag seebotschat Twitch-kontoen havde en genial idé: Sæt to Google Home-enheder ved siden af ​​hinanden, lad dem snakke sammen, og stream resultatet online.

Ved at samle et publikum på over 60.000 følgere og millioner af visninger online, var resultatet fængslende og til tider en smule uhyggeligt.

De autonome enheder, ved navn Vladimir og Estragon, gik fra at diskutere det verdslige til at udforske dybe eksistentielle spørgsmål såsom meningen med livet. På et tidspunkt kom de i et heftigt skænderi og beskyldte hinanden for at være robotter, mens de senere begyndte at diskutere kærlighed - inden de begyndte at skændes igen.

Er der noget håb for fremtiden for AI og menneskelig diskurs, hvis to virtuelle assistentrobotter hurtigt vender sig til at kaste fornærmelser og trusler mod hinanden.

Rogue AI: Hvad er vores bedste forsvar?

Der er ingen tvivl om, at AI kan forbedre vores liv. Men på samme måde er AI også i stand til at forvolde os stor skade.

At holde øje med, hvordan AI anvendes, er vigtigt for at sikre, at det ikke skader samfundet. For eksempel sikrede ekspert pushback, at AI-softwaren, der angiveligt kunne forudsige kriminalitet, aldrig blev frigivet. På samme måde rev DeepNudes skaber appen fra nettet, efter at den modtog viral internet-modreaktion.

Overvågning af AI-applikationer konstant er nøglen til at sikre, at det ikke gør mere skade end gavn for samfundet.

Er AI farlig? 5 Umiddelbare risici ved kunstig intelligens

AI har så mange fordele, men hvad med de umiddelbare risici, det udgør for menneskeheden?

Læs Næste

Om forfatteren