Hvad er On-Device AI, og hvordan fungerer det?

Nøgle takeaways

• On-device AI refererer til kunstig intelligens-funktioner, der kører lokalt på en enhed uden at oprette forbindelse til internettet, hvilket giver privatliv og hurtigere behandling.
• Med AI på enheden kan smartphones udføre imponerende opgaver, såsom at generere billeder hurtigt, levere personlige AI-assistenter og forbedre spilgrafik og lydkvalitet.
• Virksomheder som Qualcomm integrerer specialiseret hardware i deres enheder for at optimere AI på enheden ydeevne, der leverer avancerede funktioner som intelligente assistenter, realtidsoversættelse og automatiseret billedredigering.

Fra chatbots til selvkørende biler transformerer kunstig intelligens det teknologiske landskab. Et område, hvor AI-adoption accelererer hurtigt, er på forbrugerenheder som smartphones. Tekniske giganter ræser om at integrere AI-egenskaber på enheden i deres nyeste hardware og software.

Men hvad er AI på enheden, og hvordan fungerer det?

Hvad er AI på enheden, og hvordan det virker

I dag er de fleste forbruger-AI drevet af enorme datasæt gemt i skyen. Imidlertid, upload af personlige data til AI-servere er ikke godt for privatlivets fred. Det er her AI på enheden kommer ind.

On-device AI refererer til kunstig intelligens-kapaciteter, der kører lokalt på en enhed i stedet for i skyen. Dette betyder, at AI-behandlingen sker direkte på din telefon, tablet eller andre enheder uden at oprette forbindelse til internettet.

Sådan fungerer det under motorhjelmen: AI-modeller som Stabil Diffusion, DALLE-E, Midjourney, osv., trænes i skyen ved hjælp af masser af data og computerkraft. Disse modeller er derefter optimeret til at køre effektivt på målenhederne. De optimerede AI-modeller er indlejret i apps og downloades til hver brugers enhed. Appdataene forbliver isolerede i en sikker enklave.

Når appen skal udføre en opgave som at genkende en lyd eller identificere et objekt på et billede, kører den AI-modellen lokalt ved hjælp af enhedens indbyggede CPU eller GPU. AI-modellen behandler inputdataene og genererer en outputforudsigelse eller et resultat uden at sende nogen data eksternt.

Alt dette sker udelukkende på din enhed, og holder dine interaktioner private.

Hvordan On-Device AI kan gavne dig

AI på enheden giver mulighed for imponerende funktioner på din enhed. Dette inkluderer hurtig billedgenerering ved hjælp af modeller som Stable Diffusion, hvor billeder kan oprettes på få sekunder, hvilket er lynhurtigt. Dette kunne være fantastisk, hvis du hurtigt vil oprette billeder og baggrunde til dine opslag på sociale medier. Og da det behandles lokalt, forbliver dine billedmeddelelser private.

En AI-assistent kan også drives lokalt, hvilket giver en personlig oplevelse baseret på dine data og præferencer, såsom yndlingsaktiviteter og fitnessniveauer. Det kan forstå naturligt sprog til opgaver som foto- og videoredigering. For eksempel kan du muligvis sige "fjern personen til venstre" for at redigere et billede med det samme.

Til fotografering kan AI på enheden aktivere funktioner som f.eks. udvidelse af billedrammer (svarende til Photoshops udfyldningsfunktion), ved at bruge samtidige for- og bagkameraer til videoeffekter og redigere forskellige lag uafhængigt.

Gaming-grafik kan også drage fordel af on-device AI gennem opskalering af opløsning op til 8K, accelererende ray tracing for realistisk belysning og effektiv fordobling af framerates. Med hensyn til lyd kan AI på enheden aktivere lydsynkronisering i realtid, så din lyd fra videoer og spil aldrig går ud af synkronisering. Det giver også mulighed for krystalklare opkald og musik, selvom du går ind i et andet rum.

Overordnet set stemmer AI på enheden overens med, hvad mange brugere ønsker – hurtige resultater og privatliv – da det holder mere lokal behandling i stedet for skyen.

On-Device AI bringer hurtigere og mere private AI-oplevelser

AI på enheden er ret pæn. Det giver vores telefoner og andre gadgets mulighed for at køre avancerede AI-algoritmer lokalt uden at skulle oprette forbindelse til skyen og uden forsinkelse.

Virksomheder som Qualcomm pakker allerede deres seneste chips med specialiseret hardware til at køre neurale netværk effektivt på vores enheder. For eksempel understøtter Qualcomms Snapdragon 8 Gen 3 op til 24GB (på en smartphone!), har integreret understøttelse af Stable Diffusion og Llama 2, og bruger Qualcomms AI Stack til at levere nogle af de bedste on-device AI-ydelser på nuværende tidspunkt tid.

Så med hver ny generation af smartphones kan du forvente at se endnu mere kraftfulde AI-funktioner på enheden til ting som f.eks. intelligente assistenter, realtidsoversættelse, automatiseret fotoredigering og lynhurtigt generativt AI-billede generation.