Skaparen av ChatGPT anser att AI bör regleras

KONVERSATIONSMODELL. “När vi utvecklar dessa teknologier, pressar vi verkligen för allmän intelligens, allmänna förmågor med hög tillförlitlighet” menar Mira Murati i utvecklingen av ChatGPT och dess potentiella påverkan i framtiden.

Mira Murati är Chief Technology Officer på OpenAI och leder teamet bakom DALL-E och ChatGPT. DALL-E skapar konstverk med hjälp av AI, medan ChatGPT är en chatbot som kan svara på komplexa frågor på ett mänskligt sätt. Trots att Murati diskuterar de potentiella farorna med AI, lyckas Murati förmedla optimism om dess inverkan.

— Som med andra revolutioner som vi har gått igenom, kommer det att finnas nya jobb och vissa jobb kommer att gå förlorade, sa Murati till Trevor Noah i höstas om effekterna av AI, men jag är optimistisk.

ChatGPT blev en populär sökterm på Google och överträffade Bitcoin i januari. Även om vissa skolor förbjuder det, investerade Microsoft 10 miljarder dollar i OpenAI, och Google utfärdade en “kod röd”, oroad över att tekniken skulle kunna påverka dess sökverksamhet. ChatGPT:s outnyttjade potential och dess största svagheter diskuteras i en intervju med Mira Murati i Time Magazine. Murati berättar också om behovet av att reglera AI och vikten av att involvera olika perspektiv i samtalet.

ChatGPT har nyligen fått ett godkänt betyg på Wharton Business School MBA-provet och fyra stora juridikprov på universitetsnivå och Murati ser fram emot vad ChatGPT kan åstadkomma i framtiden.

Intervjuaren bad ChatGPT att ställa en fråga till Murati. Chatboten undrade då om begränsningarna eller utmaningarna hon stött på medans hon arbetat med ChatGPT och hur hon har övervunnit dem.

– Det är en bra fråga. ChatGPT är i grunden en stor konversationsmodell, ett stort neuralt nät som har tränats för att förutsäga nästa ord. Och utmaningarna med det är liknande utmaningar som vi ser med de grundläggande stora språkmodellerna: de kan utgöra fakta.

ChatGPTs självsäkra sätt att utgöra fakta är en av huvudutmaningarna.

– Ja. Detta är faktiskt en huvudutmaning. Vi valde dialoger specifikt eftersom dialoger är ett sätt att interagera med en modell och ge den feedback. Om vi ​​tror att svaret på modellen är felaktigt kan vi säga: “Är du säker? Jag tror faktiskt…” Och då har modellen en möjlighet att diskutera fram och tillbaka med dig, liknande hur vi skulle konversera med en annan människa.

Läs fortsättningen av intervjun med Murati HÄR.