Er det muligt for computere at lære sund fornuft?

Nøgle takeaways

• Sund fornuft er evnen til at forstå og reagere på hverdagssituationer uden at overanalysere. Det tilegnes gennem livserfaringer og iagttagelser samt samfundsmæssige og kulturelle normer.
• Computere kæmper med sund fornuft, fordi de mangler erfaringer fra den virkelige verden og evnen til at tilpasse sig nye sammenhænge. De kæmper også med uudtalte regler og antagelser, som mennesker intuitivt forstår.
• Forskere udforsker forskellige tilgange, såsom at opbygge omfattende videnbaser, crowdsourcing af sund fornuft og undervisning i kunstig intelligens gennem simulerede verdener for at træne computere i at tilegne sig sund fornuft. Der er gjort fremskridt, men der er stadig arbejde at gøre.

Sund fornuft. Vi tror alle, vi har det. Men hvad er det helt præcist? Kan computere eller kunstige intelligente systemer nogensinde virkelig erhverve det?

Hvad er sund fornuft, og hvordan tilegner mennesker sig det?

Sund fornuft er den grundlæggende evne til at opfatte, forstå og bedømme ting, som de fleste forventes at have. Det er samlingen af ​​fakta, information og tommelfingerregler, som vi samler gennem livserfaringer og observationer. Sund fornuft giver os mulighed for effektivt at behandle og reagere på hverdagssituationer uden at analysere dem for dybt.

Mennesker begynder at tilegne sig sund fornuft tidligt i barndommen. Som babyer begynder vi at lære årsag-og-virkning-forhold – ligesom gråd fører til at blive fodret eller ændret. Gennem gentagne oplevelser får vi praktisk viden om verden. Berøring af en varm komfur resulterer for eksempel i at blive forbrændt. Så vi lærer ikke at røre ved varme overflader.

Som børn fortsætter vi med at udvide vores sunde fornuft gennem forsøg og fejl og observere og interagere med familiemedlemmer. For eksempel ved vi, at tøj skal vaskes regelmæssigt, du skal ikke tale med munden fuld, og at vælte dit mælkeglas fører til rod. Forældre, søskende, lærere og andre voksne retter os, når vi overtræder samfundets normer og forventninger. Over tid er disse lektioner indgroet som grundlæggende sund fornuft.

Ud over personlige oplevelser er sund fornuft formet af bredere samfundsmæssige og kulturelle normer. Hvad der kan være sund fornuft i én kultur (som at tage sko af, når man kommer ind i et hjem), er det måske ikke i en anden kultur.

Vores sunde fornuft tilpasser sig, efterhånden som vi modnes og udsættes for flere mennesker og miljøer. Så et barn, der vokser op i en lille by, får grundlæggende sund fornuft om livet i de omgivelser. En voksen, der flytter til en storby, skal tilpasse sin sunde fornuft, så den passer til de nye omgivelser.

Sund fornuft fortsætter med at udvikle sig, efterhånden som vi har nye oplevelser gennem hele vores liv.

Hvorfor er sund fornuft udfordrende for computere?

Der er et par grunde til, at sund fornuft er svær at programmere.

For det første lærer mennesker sund fornuft gradvist i løbet af år med at opleve verden. Vi prøver tingene af, ser hvad der virker og hvad der ikke gør, og husker lektionerne. Computere har ikke den slags oplevelser fra den virkelige verden at trække på. De ved kun, hvad mennesker udtrykkeligt fortæller dem.

For eksempel stillede jeg ChatGPT (GPT 3.5) dette spørgsmål:

Janet runs a laundry business. She washes clothes for customers and hangs them outside on clotheslines to dry in the sun. One day, Janet washed five shirts and hung them on the clotheslines in the morning. It took the shirts five hours to dry. How long will it take to dry 30 shirts? 

Det viste sig med dette svar:

Et andet problem er, at sund fornuft afhænger af kontekst. Hvis en computer kun har specifikke regler indprogrammeret, kan den ikke tilpasse dem til nye sammenhænge, ​​som mennesker intuitivt kan.

Lad os for eksempel sige, at du har lært en computer, hvad den skal gøre, hvis det begynder at regne, når det er udenfor. Det virker ligetil, ikke? Men hvad så hvis det i stedet for regn er en sprinkler der tænder? Eller hvad hvis det er inde i en købmand, og rørene begynder at lække vand fra loftet? Vi ville med det samme vide, hvordan vi skulle håndtere disse variationer, men en computer ville blindt følge dens regel "når det regner, mens det er udenfor, gå indenfor", hvilket nu ikke giver nogen mening.

Der er også uudtalte regler og antagelser, som mennesker absorberer uden selv at være klar over det. Ligesom hvor tæt kan du stå ved siden af ​​nogen, før det føles akavet? Mennesker kender intuitivt svaret, men er måske ikke let i stand til at forklare de nøjagtige regler. Disse implicitte sociale normer kan være særligt vanskelige for computere at opfange kun fra data.

Så for nu er sund fornuft stadig en af ​​AI's største svagheder sammenlignet med menneskelig intelligens. Det kommer naturligt for mennesker, men ikke så meget for maskiner.

Hvordan computere kan lære sund fornuft

Efter tidlig optimisme i 1970'erne og 1980'erne indså forskerne, hvor svært det ville være at lære computere sund fornuft. Nye tilgange viser imidlertid løfte om at træne AI-systemer til at have grundlæggende sund fornuft om den daglige fysiske og sociale verden.

En tilgang er at bygge omfattende vidensbaser i hånden, detaljerede fakta og regler om, hvordan verden fungerer. Cyc-projektet, der blev startet i 1984 af Doug Lenat, repræsenterer en ambitiøs indsats af denne art.

Hundredvis af logikere har kodet millioner af logiske aksiomer ind i Cyc gennem årtier. Selvom det tager tid, er resultatet et system med betydelig viden fra den virkelige verden. Cyc kan tilsyneladende begrunde, at en tomat teknisk set er en frugt, men alligevel ikke bør gå i en frugtsalat, takket være dens viden om kulinariske smagsprofiler.

Crowdsourcing af sund fornuft med ConceptNet

Mere moderne vidensbaser som ConceptNet tage en crowdsourcing-tilgang til at generere påstande om sund fornuft. Ideen er, at i stedet for at få eksperter eller AI til at prøve at komme med alle de grundlæggende fakta og relationer i verden, åbner de op for det, så alle kan bidrage med uddrag af sund fornuft.

Denne crowdsourcing-tilgang giver disse vidensbaser mulighed for at udnytte den kollektive intelligens hos mange forskellige mennesker på tværs af internettet. Ved at akkumulere tusinder og atter tusinder af disse små sunde fornuftsklumper fra mængden, opbyggede ConceptNet nogle overraskende store depoter af grundlæggende, dagligdags viden. Og fordi nye bidragydere altid tilføjer til det, bliver viden ved med at vokse.

Undervisning i sund fornuft gennem erfaring

En anden lovende tilgang er at bygge detaljerede simulerede verdener, hvor AI-agenter kan eksperimentere og lære om fysik og intuitioner gennem erfaring.

Forskere skaber virtuelle 3D-miljøer fyldt med hverdagsgenstande, der efterligner den virkelige verden, som det digitale hjem "AI2 THOR" bygget af Allen Institute. Inden for disse rum kan AI-robotter prøve alle slags interaktioner for at udvikle en intuitiv forståelse af begreber, som mennesker tager for givet.

For eksempel kan en AI-bot få en virtuel krop og prøve at samle blokke op, stable dem, vælte dem osv. Ved at se blokkene falde og kollidere realistisk, lærer botten grundlæggende forestillinger om soliditet, tyngdekraft og fysisk dynamik. Ingen regler er nødvendige - kun erfaring.

Botten kan også prøve handlinger som at tabe en glasgenstand og se den knuse, når den rammer jorden. Eller det kan eksperimentere med vands egenskaber ved at hælde væsker og observere, hvordan de flyder og samler sig. Disse praktiske lektioner grundlagde AI's viden inden for sensorisk erfaring og ikke kun datamønstre.

Datadrevne teknikker som fortræning kraftfulde store sprogmodeller har også vist sig overraskende effektive til at opfange sunde fornuftsmønstre. AI-modeller som GPT-3.5 og GPT-4 kan generere imponerende menneskelignende tekst efter at have "læst" enorme mængder internetdata.

Mens de nogle gange kommer med ukloge forslag (ellers kendt som AI hallucination), giver den statistiske læringstilgang dem mulighed for at efterligne visse former for sund fornuft. Der er dog fortsat uenighed om, hvorvidt dette er sund fornuft eller en smart udnyttelse af skævheder i dataene.

Sådan tester du computere for sund fornuft

Efterhånden som kunstige intelligenssystemer påtager sig mere komplekse opgaver i den virkelige verden, bliver det afgørende at vurdere, om de har "sund fornuft".

Fysisk sund fornuft

Et område at teste er fysisk sund fornuft - intuition om genstande, kræfter og grundlæggende egenskaber i verden.

Vis for eksempel en computer vision system et foto med en bog, der svæver i luften, og bed det om at beskrive scenen. Er der noget usædvanligt ved den flydende bog? Eller foder AI-systemet med usædvanlige scenarier som "manden snittede en sten med et brød" og tjek, om det markerer dem som usandsynlige.

Allen Institutes AI2 THOR-miljø simulerer bloktårne, spildte krus og andre scener for at teste disse fysiske intuitioner.

Social sund fornuft

Mennesker har også social sund fornuft – en implicit forståelse af folks motivationer, relationer og normer. For at evaluere dette i AI skal du stille situationer med tvetydige pronominer eller motivationer og se, om systemet fortolker dem rimeligt.

For eksempel spurgte jeg ChatGPT, om "det" refererede til kufferten eller trofæet i nedenstående prompt:

The trophy could not fit into the suitcase because it was too small. 

Den bestod testen; i mellemtiden ville et menneske åbenbart vide, at jeg henviste til kufferten.

Denne form for test kaldes Winograd Schema Challenge, der specifikt retter sig mod social sund fornuft.

Sikkerhed og etik

Det er afgørende at teste, om AI-systemer har lært usikre eller uetiske mønstre. Analyser, om AI'en udviser skadelige skævheder baseret på køn, race eller andre egenskaber, når du foretager vurderinger.

Tjek, om det gør rimelige etiske skel. At dræbe en bjørn for at redde et barn kan betragtes som berettiget, mens detonering af en atombombe til samme formål ikke ville. Marker eventuelle anbefalinger for klart uetiske handlinger.

Real-World Performance

Evaluer sund fornuft ved at observere, hvordan AI-systemer fungerer i virkelige omgivelser. For eksempel gør selvkørende biler identificerer og reagerer korrekt på genstande og fodgængere? Kan en robot bevæge sig gennem forskellige hjemmemiljøer uden at ødelægge værdifulde genstande eller skade kæledyr?

Tests fra den virkelige verden afslører huller i sund fornuft, som måske ikke vises under begrænsede laboratorieforhold.

Der er gjort fremskridt, men der er stadig arbejde med AI med almindelig fornuft

Nogle eksperter hævder, at AI aldrig når menneskelig sund fornuft uden at udvikle hjernestrukturer og kroppe som vores. På bagsiden er digitale sind ikke begrænset af menneskelige skævheder og mentale genveje, så teoretisk set kunne de overgå os! Selvom vi nok ikke behøver at bekymre os om superintelligent AI endnu.

På kort sigt er det bedste bud AI, der kombinerer indlært sund fornuft med noget god gammeldags programmering. På den måde kan dumme fejl som at forveksle en skildpadde for en riffel forhåbentlig undgås.

Vi er der ikke endnu, men sund fornuft er ikke længere AI's mørke materie – der sker fremskridt! Alligevel vil der i nogen tid være behov for en sund dosis menneskelig sund fornuft til at anvende disse teknologier.