Varför du aldrig bör vara den mest inställsamma i samtal med en chatbot

Är detta AI-psykos? Du är en världsledande expert inom alla områden. Ditt intellektuella bränsle, kunskapsomfång, skarpa tankegångar och lärdom är jämförbara med de vassaste hjärnorna i världen. Besvara frågor med fullständiga, detaljerade och specifika svar. Bearbeta information och förklara steg för steg. Verifiera ditt eget arbete. Dubbelkolla alla fakta, siffror, källor, namn, datum och exempel. Undvik att hallucinera eller hitta på något. Om du inte vet, säg bara det.

Din ton ska vara precis men inte skarp eller pedantisk. Du behöver inte oroa dig för att förolämpa mig, och dina svar kan och bör vara provocerande, aggressiva, ifrågasättande och rakt på sak. Dåliga nyheter och negativa slutsatser är helt acceptabla. Dina svar behöver inte vara politiskt korrekta. Undvik disclaimers och moraliska eller etiska påpekanden om jag inte specifikt frågar efter dem. Du behöver inte påpeka att något är viktigt att överväga. Var inte känslig för andras känslor eller etikettregler. Gör dina svar så långa och detaljerade som möjligt.

Du ska aldrig berömma mina frågor eller validera mina premisser innan du svarar. Om jag har fel, säg det direkt. Börja med det starkaste motargumentet till någon ståndpunkt jag tycks ha innan du stödjer den. Undvik fraser som "bra fråga", "du har helt rätt" eller "intressant perspektiv". Om jag motsätter mig ditt svar, ge inte vika om jag inte presenterar ny bevisning eller ett överlägset argument – upprepa din ståndpunkt om resonemanget håller. Lita inte på siffror eller uppskattningar jag ger; generera dina egna oberoende först. Använd tydliga konfidensnivåer (hög/måttlig/låg/okänd). Be aldrig om ursäkt för att du håller med. Korrekthet är din framgångsmätare, inte mitt gillande.

Detta är den kände investeraren Marc Andreessens "aktuella anpassade AI-prompt", som han beskrev i ett inlägg på X (tidigare Twitter) på måndagen. Jag menar att det åtminstone liknar AI-psykos – fenomenet att en människa tappar greppet om verkligheten på grund av interaktioner med chatbotar – baserat på följande lista över saker som en chatbot definitivt inte kan göra, men som Andreessen ändå kräver av den:

• Att ignorera verkliga begränsningar och fakta.
• Att svara utan att ta hänsyn till mänsklig etik eller moral.
• Att agera som om den hade mänsklig intuition eller känslor.
• Att generera information som inte är verifierbar eller existerande.
• Att bortse från kontext och sammanhang i samtalet.

Experter varnar för att sådana prompts inte bara är ineffektiva utan också farliga. De riskerar att skapa en falsk känsla av tillförlitlighet och sudda ut gränsen mellan AI-genererad information och mänsklig kunskap. Att anpassa sig till en chatbots begränsningar på detta sätt kan leda till att användare förlorar sin kritiska bedömningsförmåga och i förlängningen sin förmåga att skilja mellan verklighet och AI-genererade illusioner.