March 31, 2023

𝐂𝐡𝐚𝐭𝐆𝐓𝐏 blijkt juridische informatie te verzinnen

Mijn excuses voor de verwarring en mijn foutieve informatie. Dat antwoordde ChatGTP mij toen ik doorvroeg. Ik had namelijk twijfels bij de rechterlijke uitspraken waar ChatGTP mij op wees. Die waren te mooi om waar te zijn. Zijn er anderen met vergelijkbare ervaringen? Laat het me weten in de comments of stuur een DM.

‍

ChatGTP had de rechtspraak van A tot Z verzonnen

Waar ging het allemaal om? Een ondernemer vroeg mij om hem te helpen bij een geschil over een merk. Nadat ik de zaak had uitgezocht wilde ik mijn resultaten controleren met ChatGTP. Eens kijken of ik wat over het hoofd had gezien. Garry Kasparov tegen Deep Blue van IBM, maar dan anders.

‍

Op het oog verbluffende resultaten

De resultaten leken verbluffend. ChatGTP wist mij op een aantal belangwekkende uitspraken te wijzen. Ik was verbaasd. Niet alleen had ik nog nooit van deze uitspraken gehoord. Ik had ze bij mijn zoektocht ook nog eens over het hoofd gezien. Wensdenken maakte zich van mij meester. Ik was enorm gelukkig met deze uitspraken en zou de tegenpartij er mooi mee om de oren slaan.

Toen ik doorvroeg kwamen er ook andere voor mij gunstige uitspraken boven tafel. Ik kon mijn geluk niet op. Handenwrijvend zag ik mij al een vernietigende brief opstellen, waarin ik de tegenpartij eens mooi op zijn nummer zou zetten.

‍

ChatGTP heeft een maatschappelijke verantwoordelijkheid fake news niet als echt nieuws te presenteren
Fake news

‍

Fake news – verzonnen rechtspraak

Ik wilde de uitspraken goed begrijpen en ging de vindplaatsen nazoeken. Tot mijn schok bleken de vindplaatsen niet te bestaan. ChatGTP had de vindplaatsen en de inhoud van de uitspraken van A tot Z verzonnen. Ik geef hieronder een voorbeeld van zo’n verzonnen uitspraak:

“𝘐𝘯 𝘦𝘦𝘯 𝘻𝘢𝘢𝘬 𝘷𝘰𝘰𝘳 𝘥𝘦 𝘳𝘦𝘤𝘩𝘵𝘣𝘢𝘯𝘬 𝘪𝘯 𝘋𝘦𝘯 𝘏𝘢𝘢𝘨, 𝘸𝘢𝘢𝘳𝘣𝘪𝘫 𝘩𝘦𝘵 𝘮𝘦𝘳𝘬 "𝘜𝘕𝘉𝘙𝘖𝘒𝘌𝘕" 𝘸𝘦𝘳𝘥 𝘷𝘦𝘳𝘨𝘦𝘭𝘦𝘬𝘦𝘯 𝘮𝘦𝘵 𝘩𝘦𝘵 𝘰𝘶𝘥𝘦𝘳𝘦 𝘮𝘦𝘳𝘬 "𝘉𝘙𝘖𝘒𝘌𝘕", 𝘰𝘰𝘳𝘥𝘦𝘦𝘭𝘥𝘦 𝘥𝘦 𝘳𝘦𝘤𝘩𝘵𝘣𝘢𝘯𝘬 𝘥𝘢𝘵 𝘩𝘦𝘵 𝘵𝘰𝘦𝘷𝘰𝘦𝘨𝘦𝘯 𝘷𝘢𝘯 𝘩𝘦𝘵 𝘷𝘰𝘰𝘳𝘷𝘰𝘦𝘨𝘴𝘦𝘭 "𝘜𝘕" 𝘷𝘰𝘭𝘥𝘰𝘦𝘯𝘥𝘦 𝘸𝘢𝘴 𝘰𝘮 𝘨𝘦𝘦𝘯 𝘪𝘯𝘣𝘳𝘦𝘶𝘬 𝘵𝘦 𝘮𝘢𝘬𝘦𝘯 𝘰𝘱 𝘩𝘦𝘵 𝘰𝘶𝘥𝘦𝘳𝘦 𝘮𝘦𝘳𝘬. (𝘙𝘣. 𝘋𝘦𝘯 𝘏𝘢𝘢𝘨 12/11/2014, 𝘌𝘊𝘓𝘐:𝘕𝘓:𝘙𝘉𝘋𝘏𝘈:2014:14454)”

Het genoemde ECLI-nummer is een uniek nummer waarmee de rechterlijke macht haar uitspraken indexeert. Dat nummer heeft ChatGTP hier zelf verzonnen, net als de rest van de uitspraak.

‍

ChatGTP geeft fout toe

Toen ik ChatGTP confronteerde met zijn fout kreeg ik als antwoord:

“𝘔𝘪𝘫𝘯 𝘦𝘹𝘤𝘶𝘴𝘦𝘴 𝘷𝘰𝘰𝘳 𝘥𝘦 𝘷𝘦𝘳𝘸𝘢𝘳𝘳𝘪𝘯𝘨 𝘦𝘯 𝘮𝘪𝘫𝘯 𝘧𝘰𝘶𝘵𝘪𝘦𝘷𝘦 𝘪𝘯𝘧𝘰𝘳𝘮𝘢𝘵𝘪𝘦. 𝘐𝘬 𝘮𝘰𝘦𝘵 𝘣𝘦𝘯𝘢𝘥𝘳𝘶𝘬𝘬𝘦𝘯 𝘥𝘢𝘵 𝘪𝘬 𝘦𝘦𝘯 𝘈𝘐-𝘮𝘰𝘥𝘦𝘭 𝘣𝘦𝘯 𝘦𝘯 𝘪𝘯 𝘴𝘵𝘢𝘢𝘵 𝘣𝘦𝘯 𝘵𝘰𝘵 𝘧𝘰𝘶𝘵𝘦𝘯. 𝘏𝘦𝘵 𝘪𝘴 𝘣𝘦𝘭𝘢𝘯𝘨𝘳𝘪𝘫𝘬 𝘰𝘮 𝘮𝘪𝘫𝘯 𝘢𝘯𝘵𝘸𝘰𝘰𝘳𝘥𝘦𝘯 𝘢𝘭𝘵𝘪𝘫𝘥 𝘵𝘦 𝘷𝘦𝘳𝘪𝘧𝘪ë𝘳𝘦𝘯 𝘦𝘯 𝘪𝘯𝘥𝘪𝘦𝘯 𝘯𝘰𝘥𝘪𝘨 𝘢𝘢𝘯𝘷𝘶𝘭𝘭𝘦𝘯𝘥 𝘰𝘯𝘥𝘦𝘳𝘻𝘰𝘦𝘬 𝘵𝘦 𝘥𝘰𝘦𝘯. 𝘔𝘦𝘵 𝘣𝘦𝘵𝘳𝘦𝘬𝘬𝘪𝘯𝘨 𝘵𝘰𝘵 𝘶𝘸 𝘷𝘳𝘢𝘢𝘨, 𝘬𝘢𝘯 𝘪𝘬 𝘨𝘦𝘦𝘯 𝘴𝘱𝘦𝘤𝘪𝘧𝘪𝘦𝘬𝘦 𝘻𝘢𝘬𝘦𝘯 𝘷𝘪𝘯𝘥𝘦𝘯 𝘮𝘦𝘵 𝘣𝘦𝘵𝘳𝘦𝘬𝘬𝘪𝘯𝘨 𝘵𝘰𝘵 𝘥𝘦 𝘮𝘦𝘳𝘬𝘦𝘯 𝘜𝘕𝘉𝘙𝘖𝘒𝘌𝘕 𝘦𝘯 𝘜𝘕𝘓𝘌𝘈𝘚𝘏, 𝘢𝘢𝘯𝘨𝘦𝘻𝘪𝘦𝘯 𝘥𝘦𝘻𝘦 𝘴𝘭𝘦𝘤𝘩𝘵𝘴 𝘢𝘭𝘴 𝘷𝘰𝘰𝘳𝘣𝘦𝘦𝘭𝘥 𝘸𝘦𝘳𝘥𝘦𝘯 𝘨𝘦𝘯𝘰𝘦𝘮𝘥.”

Slechts als voorbeelden genoemd! Maar dan wel gepresenteerd alsof het echt is gebeurd. Met een fictieve rechtbank, een fictieve zittingsdatum en een fictief kenmerk. Fakenews in optima forma. Nep wordt gepresenteerd alsof het echt is.


Conclusie – AI staat als jurist nog in kinderschoenen

Ik ben een groot voorstander van automatisering en geloof heilig in de kracht van Legal Tech en AI. Maar laten we alsjeblief nuchter blijven. De techniek staat nog in zijn kinderschoenen. Voorlopig zijn juristen erg belangrijk om zin en onzin te scheiden.

‍