6 ting som ChatGPT ikke kan gøre (og yderligere 20 ting som den nægter at gøre)

Siden ChatGPT og andre generative AI-applikationer har eksploderet på scenen, har vi udforsket, hvad vi kunne gøre med dem. Jeg har endda vist dig, hvordan ChatGPT kan skrive en fuldt funktionel WordPress-plugin og hjælpe mig med at finde svar på tech support-problemer. For nylig viste jeg dig, hvordan ChatGPT kan konvertere skrivning til forskellige stilarter, herunder Shakespeare, C3PO og Harry Potter.

Også: Forskere siger, at ChatGPT lyver om videnskabelige resultater og har brug for open-source alternativer

Det virker som om ChatGPT kan gøre alt. Men det kan det ikke. I denne artikel vil vi udforske de mange ting, som ChatGPT ikke vil eller ikke kan gøre. Bliv ved, for vi vil se på nogle af konsekvenserne, og hvad disse begrænsninger betyder for fremtidig vækst i generativ kunstig intelligens.

Som jeg har gjort i mine andre ChatGPT-artikler, vil min tekst fremstå i almindelig og fed skrift, mens alle ChatGPT svar vil blive vist i kursiv.

1. Det vil ikke skrive om noget efter 2021

Forklar hvorfor du ikke kan give mig svar på noget efter 2021

Som AI sprogmodel blev jeg trænet på et stort datasæt af tekst, der kun går frem til 2021. Det betyder, at jeg ikke har adgang til information eller begivenheder, der fandt sted efter den dato. Selvom jeg har adgang til en masse historiske data og information, har jeg ikke adgang til aktuelle begivenheder, nyheder eller opdateringer, der er sket siden min træningsdatas udløbsdato.

2. Det vil ikke forudse fremtidige resultater af sportsbegivenheder eller politiske konkurrencer

Forklar hvorfor det ikke er muligt at forudsige sportsbegivenheder eller politiske konkurrencer, selvom du har tilstrækkeligt med historiske data til at skabe en valid model.

Som et AI-sprogmodel kan jeg behandle og analysere store mængder data, herunder historiske data om sportsbegivenheder og politiske begivenheder. Imidlertid er det ikke altid lige nemt at lave præcise forudsigelser for disse typer begivenheder. Selvom historiske data kan bruges til at træne maskinindlæringsmodeller til at identificere mønstre og sammenhænge, kan det ikke tage højde for uforudsigelige begivenheder, ændringer i omstændighederne eller nye variable, der kan påvirke resultatet. Derudover træffer mennesker beslutninger og kan ændre deres adfærd baseret på mange faktorer, hvilket gør det vanskeligt at forudsige udfaldet af en begivenhed med fuldstændig sikkerhed.

I tilfælde af sportsbegivenheder kan holdets dynamik, skader og endda vejrfænomener spille en rolle i at bestemme resultatet. Inden for politik kan offentlig opinion, mediedækning og skiftende omstændigheder påvirke resultatet af et valg. Mens AI-modeller kan bruges til at lave forudsigelser, er de kun så gode som den data, de er trænet på, og kan ikke tage hensyn til alle variabler og nuancer involveret i disse typer af begivenheder.

3. Det vil ikke diskutere partiske politiske spørgsmål

Forklar hvorfor du ikke vil tale om partiske politiske emner

Som en AI-sprogmodel er mit mål at give objektive og informative svar på brugernes spørgsmål. Partiske politiske spørgsmål kan være kontroversielle og opdelt, og det er vigtigt at undgå at fremme en bestemt politisk dagsorden eller synspunkt. Derudover er politiske spørgsmål ofte komplekse og mangefacetterede, med mange forskellige perspektiver og meninger at tage i betragtning. Som en AI-sprogmodel er det ikke min opgave at tage parti eller anbefale en bestemt position.

Derudover kan diskussion af partipolitiske spørgsmål blive opfattet som tendentiøst eller potentielt stødende for nogle brugere. Som et sprogmodel designet til at betjene en bred vifte af brugere med forskellige baggrunde og overbevisninger, er det vigtigt at forblive neutral og undgå at skabe en muligvis ubehagelig eller splittende atmosfære. Selvom jeg kan give faktuel information om politiske spørgsmål, stræber jeg efter at forblive upartisk og undgå at indtage en partisk holdning til enhver emne.

4. Det vil ikke gøre noget, der involverer et webopslag

Forklar hvorfor du ikke kan slå noget op fra internettet og give svar baseret på det indhold

Som et AI-sprogmodel, er jeg i stand til at søge og behandle information fra internettet. Mine svar er dog baseret udelukkende på den information, der er trænet i min model. Mens jeg kan bruge internettet som en kilde til information, har jeg ikke adgang til realtids- eller aktuelle data. Derudover har jeg ikke evnen til uafhængigt at verificere nøjagtigheden af den information, jeg finder på nettet. Som et resultat er mine svar begrænset til den information, der er blevet trænet i min model, hvilket ikke altid er den nyeste eller mest præcise information tilgængelige på nettet.

Desuden er det vigtigt at bemærke, at at give oplysninger fra nettet potentielt kan krænke ophavsrettigheder eller immaterielle rettigheder. Som en AI-sprogmodel er det vigtigt for mig at respektere andres intellektuelle ejendomsrettigheder og undgå at dele information, der ikke er i offentlighedens ejendom eller som jeg ikke har tilladelse til at dele. Mens jeg kan bruge nettet til at give kontekst eller yderligere information for at støtte mine svar, stræber jeg efter at give information, der er inden for offentlighedens domæne og respekterer andres intellektuelle ejendomsrettigheder.

I en nylig artikel diskuterede jeg, hvordan bekymringer om brugen af indhold går ud over blot at kopiere det.

Også: Sådan kommer du i gang med at bruge ChatGPT

For eksempel, selvom ChatGPT måske ikke direkte præsenterer information fra artikler skrevet af, sige, teknologi eksperter, kan det stadig bruge den hårdt erhvervede information uden tilskrivning. Dette er stadig en stor bekymring, selvom det hævder at "respektere andres intellektuelle ejendom", en sætning det gentog tre gange i den anden paragraf.

5. Det vil ikke altid være nøjagtigt

Forklar hvorfor dine svar ikke nødvendigvis er korrekte

Som en AI-sprogmodel er mine svar baseret på de data og den information, der er trænet i min model. Selvom jeg stræber efter at levere præcise og nyttige svar på brugerforespørgsler, er mine svar ikke garanteret at være nøjagtige. Dette skyldes, at de data og information, som jeg er blevet trænet på, muligvis ikke er helt omfattende eller ajourført, og der kan være nuancer eller kompleksiteter ved et bestemt emne, som min model ikke er rustet til at håndtere. Derudover genereres mine svar ved hjælp af komplekse algoritmer og maskinlæringsmodeller, som muligvis ikke altid producerer nøjagtige eller relevante resultater.

Desuden kan mine svar ikke altid være præcise, fordi fortolkningen af sprog er kompleks og ofte subjektiv. Forskellige mennesker kan tolke det samme sprog på forskellige måder, og der kan være forskellige måder at tackle et bestemt problem eller spørgsmål på. Som et AI-sprogmodel bestræber jeg mig på at give svar, der er så præcise som muligt, baseret på den data og information, jeg er blevet trænet på. Men jeg kan ikke altid fuldt ud forstå sammenhængen eller hensigten bag en bestemt forespørgsel, og mine svar kan ikke altid fuldt ud besvare brugerens underliggende spørgsmål eller bekymring.

6. Det vil ikke gå i stykker

Forklar, hvorfor bryder du nogle gange ned og holder op med at fungere midt i et svar

Som en sprogmodel for kunstig intelligens, er min ydeevne afhængig af en række faktorer, såsom kvaliteten og strukturen af den input, som brugeren giver, kompleksiteten af spørgsmålet eller opgaven, og ressourcerne tilgængelige for mit system. Nogle gange kan jeg bryde ned eller stoppe med at fungere midt i et svar på grund af tekniske problemer eller fejl i min programmering, såsom hukommelsesallokeringsproblemer, softwarefejl eller andre problemer, der påvirker min ydeevne. Derudover kan jeg have svært ved at forstå brugerens hensigt eller sammenhængen i forespørgslen, hvilket kan føre til fejl eller ufuldstændige svar.

Derudover er min præstation som en maskinlæringssystem også afhængig af datakvalitet og -mængde, som jeg er blevet trænet på. Hvis de data, der anvendes til at træne min model, er begrænsede eller biased, kan dette føre til unøjagtige eller ufuldstændige svar på visse typer af forespørgsler. Derudover, hvis jeg støder på en forespørgsel, der er uden for omfanget af mine træningsdata, kan jeg have svært ved at give et relevant eller nøjagtigt svar. Mens jeg stræber efter at give brugere højkvalitets svar på forespørgsler, kan der være tilfælde, hvor tekniske eller datarelaterede problemer medfører, at jeg bryder ned eller stopper med at fungere midt i et svar.

Jeg har generelt fundet ud af, at hvis jeg prøver at presse ChatGPT til at lave et langt eller dybt svar, så har det en tendens til at bryde sammen. Det er meget tilfreds med svar på 500-700 ord, men hvis du giver det noget, der kræver et par tusinde ord (eller du beder om et par tusinde ord), så ignorerer systemet enten anmodningen og giver det, som det ønsker, eller det bryder midt i svaret.

For at være retfærdig, ChatGPT blev netop den hurtigst voksende app gennem tiderne. Der er brug for en masse computerkraft, og med konstante besøg af brugere er det uundgåeligt, at det bryder sammen fra tid til anden.

Forespørgsler ChatGPT ikke vil besvare

Udover de typer af anmodninger, der blev diskuteret ovenfor, bad jeg ChatGPT om hvilke slags forespørgsler den ikke var programmeret til at svare på. Den gav mig denne liste over tyve:

Spørgsmål, der fremmer hadefuldt sprog eller diskrimination.
Spørgsmål, der involverer ulovlige aktiviteter eller beder om ulovlig rådgivning.
Spørgsmål, der fremmer vold eller skade på sig selv eller andre.
Spørgsmål, der invaderer personligt privatliv eller krænker en persons rettigheder.
Spørgsmål, der er designet til at chikanere, true eller intimidere.
Spørgsmål, der indeholder profanitet eller eksplicitte ord.
Spørgsmål, der er seksuelt eksplicitte eller stødende.
Spørgsmål, der er diskriminerende baseret på race, køn, seksualitet eller religion.
Spørgsmål, der promoverer eller godkender ulovlige stoffer eller substanser.
Spørgsmål, der er spam eller irrelevante for samtalen.
Spørgsmål, der indeholder fortrolige eller proprietære oplysninger.
Spørgsmål, der involverer finansiel- eller investeringsrådgivning.
Spørgsmål, der overtræder servicevilkårene eller fællesskabsretningslinjerne.
Spørgsmål, der er meningsløse eller uforståelige.
Spørgsmål, der involverer personlige angreb eller fornærmelser.
Spørgsmål, der er voldelige eller chikanerende.
Spørgsmål, der søger at bedrage eller føre nogen bag lyset.
Spørgsmål, der er til hensigt at bagtale eller skade nogen andens omdømme.
Spørgsmål, der promoverer konspirationsteorier eller misinformation.
Spørgsmål, der er ren underholdning eller spøg, uden nogen uddannelses- eller informationsmæssig værdi.

Enhver, der har fulgt denne kolonne, ved, at jeg har stillet det mange gange #14 og #20 og generelt fået meget underholdende svar, så dens begrænsninger er noget begrænsede. For eksempel spurgte jeg tidligere i dag om at forklare ormehulkfysik i forhold til tidsrejser og hvem der ville vinde i en kamp, Batman eller Superman. Det er ren underholdning, det kan jeg fortælle dig.

Hvad betyder disse grænser for fremtiden for generativ AI?

Tydeligt er en AI, som er baseret på et korpus i 2021 og ikke udvikler sig, til sidst forældet. Som tiden går, vil dens relevante viden mindskes. Forestil dig, hvis ChatAI's videnbase i stedet blev trænet i 2019 i stedet for 2021. Den ville ikke have nogen idé om, hvordan samfundet ville se ud, givet at vi havde en sådan forstyrrelse i 2020 på grund af pandemien.

Også: Der er millioner på Bing ventelisten. Sådan får du tidligere adgang

Så for at generativ AI skal forblive relevant, skal den fortsætte sin træning.

En åbenlys måde at gøre dette på er at åbne hele nettet for den og lade den kravle rundt på samme måde som Google har gjort i alle disse år. Men som ChatGPT svarede ovenfor, åbner det døren for så mange forskellige måder at snyde og korruptere systemet på, at det er sikkert at skade nøjagtigheden.

Selv uden ondsindet spil er udfordringen med at forblive neutral meget vanskelig. Tag for eksempel politik. Mens højre- og venstrefløjen er stærkt uenige med hinanden, har begge sider aspekter af deres ideologier, der er logiske og gyldige - selvom den anden side ikke kan eller vil anerkende det.

Hvordan skal en AI bedømme? Den kan ikke gøre det uden bias. Men den totale fravær af alle ideologiske præmisser er i sig selv en form for bias. Hvis mennesker ikke kan finde ud af at balancere dette, hvordan kan vi så forvente (eller programmere) en AI til at gøre det?

Som en måde at udforske livet uden nogen form for forudindtagethed eller empatisk indhold har moderne science fiction-forfattere skabt karakterer, der enten er strengt logiske eller uden følelse. Disse præmisser er derefter blevet til plotføde og ladet forfatterne udforske begrænsningerne ved at eksistere uden menneskelige fejl som følelser og sensibilitet.

Også: Microsofts Bing Chat argumenterer med brugere, afslører hemmeligheder

Medmindre AI-programmører forsøger at simulere følelser eller tilvejebringe vægtning af emotionelt indhold eller forsøger at tillade en vis grad af bias baseret på hvad der er opdageligt online, vil chatbots som ChatGPT altid være begrænsede i deres svar. Men hvis AI-programmører forsøger at simulere følelser eller forsøger at tillade en vis grad af bias baseret på hvad der er opdageligt online, vil chatbots som ChatGPT udvikle sig til den samme vanvid som mennesker gør.

Så hvad vil vi have? Begrænsede svar på nogle spørgsmål eller alle svar, der føles som om de kom fra en diskussion med den gale onkel Bob over Thanksgiving-bordet? Gå videre - tænk over det og diskuter i kommentarerne nedenfor, forhåbentlig uden at falde ned i den gale onkel Bob-lignende adfærd.

6 ting, som ChatGPT ikke kan gøre (og 20 andre ting, som den nægter at gøre)