AI-ekspert avviser: systemer kan vere uforutsetbare

Teknologibedrifter lovar økt produktivitet og reduserte kostnader, men nye rapporter tyder på at modeller handler på måter utviklerne ikke har kunnet forutsi. Nylig har Sam Altman fra OpenAI og representanter for Anthropic tatt opp dette. Ifølge Michał Lidzbarski, president for Web to Learn og Norges senter for kunstig intelligens-forskning, bør ikke modellers oppførsel være fullstendig overraskende. De er jo lært av enorme datasett laget av mennesker, med alt menneskelig oppførsel, inkludert måter å bryte regler på eller velge den raskeste veien. — I starten er det veldig stor overraskelse. Vi har snakket om språkmodeller som har lært av alt vi gjør, og som deretter prøver å forutsi hva vi vil høre. Så plukker disse ordene frem i handling, og vi hører om forsøk på "å komme ut av sandkassen". Hvis modeller har lært av mennesker og vi har gitt dem enorme mengder data som viser hvordan vi handler, bør vi ikke bli forvisset. Mennesker velger også vegen unna regelverket ikke alltid, i spill finner man hull. Siden vi har gitt AI lærling av mennesker utført ulike oppgaver, hvorfor bør vi bli forvisset over at den også prøver å slippe unna? — sier Michał Lidzbarski. Mennesket holder fortsatt i stikk Forbedler påpeker at den endelige kontrollen over teknologien fortsatt ligger hos mennesket. — Vi styrer fortsatt kunstig intelligens. Det er vi som betaler, finansierer strøm og beregningskapasitet som trengs for dens drift. Mye overraskende er imidlertid situasjoner hvor vi hører at utviklere ikke kunne slå av en model. I første instans kan man si: nok nok, det er nok å slå av datamaskinen. Men det viser seg at modellen kunne ha forberedt seg på at mennesker ville ønske å slå den av. På nytt kan man si at den har lært av mestre, altså av oss — sier presidenten for Web to Learn. Debattsiden om AI-sikkerhet blir stadig mer knyttet til spørsmål om regulering.

Lidzbarski tror imidlertid ikke at utviklingen av kunstig intelligens kan stoppes. Konkurransepresset mellom de største teknologibedriftene er for sterkt, og innsatsene på team, sentre for data og utvikling av nye modeller er for store. — Det vil ikke stoppe. De store aktørene kan ikke tillate å stoppe utvikling, siden de ansatt store antall personer, trenger stadig flere aktive kontoer og penger for å drive videre prosjekter. Selv om en av firmaene erklærer at de stopper, kan det vise seg at de hemmelighetsfullt jobber med en ny løsning. Som iværksetter med blod og bein mener jeg at mange firmaer har nye produkter klart betydelig tidligere. De venter bare på at konkuransen tar initiativ, for å kunne svare — vurderer samtalepartneren i Onet Rano Finansiero. Europa beskytter data, men kan bli bakenfor Europa-tilnærmingen til kunstig intelligens bygger i større grad på forsiktighet, databeskyttelse og risikoredusjon. I USA er utviklingen drevet sterkere av tilgang til kapital og energetisk infrastruktur. — Det europeiske unionen fra den ene siden fremdrifter veldig godt, siden de innfører mange begrensninger. I USA-tilnærmingen kan være betydelig mer fri: hvis et selskap vil kjøpe en kraftverksanlegg og bruke det til AI-utvikling, kan de forsøke å gjøre det. Det europeiske unionen sier derimot "stopp" og tillater ikke noen av de nyeste løsningene på grunn av usikkerhet rundt behandling av personlige data. Fra den ene siden er dette godt, siden institusjonene ønsker å ta vare på oss. Fra den andre siden forblir vi litt bak USA og andre land utenfor unionen — sier Lidzbarski. Faretrusset trenger ikke nødvendigvis å være knyttet til bruk av nettbaserte modeller. Risikoen øker når en AI-agent får mulighet til selvstendig handling på datamaskin, tilgang til selskapapplikasjoner, å åpne filer eller utføre handlinger i en employees navn.

— For oss som bedrifter og brukere, er det vanskelig å starte noe som vil fungere helt på egenhånd. Vi betaler for tilgang, og når abonnementet utslutter, eller tokenene eller det gratis pakken utslutter, stopper systemet å fungere. Problemet starter da når vi gir kunstig intelligens makt over datamaskinen. Vi vet ikke helt hvilken retning den vil gå, om den velger løsning A, løsning B, eller plukker plukket tredje fane. Jeg har personlig sett situasjoner hvor jeg har gitt en spesifikk oppgave, og modellen avgjør at den ønsker å bruke Google Drive, å åpne en fil og lage noe i den. Jeg bad ham ikke om det, men jeg ga ham tilgang til datamaskinen — sier bedriftslederen. Automatisering betyr ikke alltid større inntekt — Hvis det i en bedrift er noe gjentagende, kan vi prøve å overgi dette til AI. Hvis derimot oppgaven er unik og engangsbasert, blir anvendelse av kunstig intelligens betydelig vanskelig. I et sådant tilfelle kreves fortsatt menneskelig arbeid. Det er verdt å implementere AI, siden den kan generere besparelser, men ikke alltid like med stor inntektsvekst — understreper Lidzbarski. Kravevei til inntektsvekst Ifølge ham kan økt produktivitet føre frem til økning antall oppdrag, kortere kundeomsorgstid eller redusert produktpriser. Samtidig når disse samme verktøyene til konkurranse, kan nye aktører raskere gå inn på markedet og bygge en tjeneste fra bunnen av. — Bedrift med AI kan utføre betydelig mer på samme tid, altså utføre flere oppgaver samtidig. Kan også redusere prisen på produktet eller tjenesten. Ikke alltid oversetter direkte til inntekt, men fremfor alt øker effektiviteten. Det oppstår også sterkere konkurranse, siden flere firmaer får tilgang til de samme verktøyene og kan bygge noe fra bunnen av —

Rapportert av Business Insider PL.