ChatGPT is geen bron...

[Consumenneke]

Misschien ligt het ook aan de onderwerpen waar over je vragen stelt via chatgpt, of welke dan ook.
Ik ben tot dusver goed geholpen elke keer.

Ik ook 9 van de 10 keer. En dan krijg je ineens een reactie waarvan je denkt: waar haalt-ie dat nou vandaan?

Tweakers noemt een doorverwijzing naar niet-meer bestaande restaurants als voorbeeld en daar kan ik me iets bij voorstellen.

[Moneyman]

Altijd fijn, die persoonlijke noot.

Practise what you preache.

Dan ben ik benieuwd hoe er gedacht wordt over de spontane hallucinaties van deze fantaseermachines.

Die zijn geen probleem, want (zoals ik eerder al schreef): heel simpel te voorkomen.

Ga deze discussie even op Tweakers voeren. Op Tweakers is er momenteel een anti-AI sentiment aan het ontstaan vanwege de onbetrouwbaarheid van deze AI modellen. En ga mij niet vertellen dat Tweakers niet weten hoe ze vragen moeten opstellen. Het is juist niet simpel te voorkomen. Het is juist uitermate moeilijk om dat te voorkomen.

Als je -zeker in de de betaalde versie- je instellingen goed hebt staan, en in je prompt rekening houdt met de hallucinaties (en dus beperkingen oplegt in wat ChatGPT wel of niet mag antwoorden), is het probleem van hallucinaties een stuk minder groot. Er is heel veel te sturen.

Ben je deurderwaarder of ben je in eens expert op het gebied van AI geworden? Ik verbaas me over je koppigheid in deze want toont gewoon aan dat jij de persoon bent die niet weet hoe deze techniek werkt. Sorry, ik kan er niets anders van maken.

... zegt degene die geen enkel concreet tegenargument heeft gegeven op de concrete voorbeelden die ik en anderen hebben gegeven en die aantonen dat jouw stelling onjuist is.

Dat heeft niets te maken met koppigheid, dat is slechts een gebrek aan overtuigende argumentatie jouwerzijds.

[Moneyman]

Misschien helpt het als je een keer met argumenten zou komen ipv op de man te spelen..

Metusalah en andere die met kennis van zaken kritische kanttekeningen plaatsen, worden voortdurend gekleineerd. Dus ik snap wel dat hij iets terug zegt.

Onjuist. Uit de door hem gegeven antwoorden blijkt juist dat er géén sprake is van kennis van zaken (vandaar mijn eerdere reacties). Zijn standpunten zijn aantoonbaar onjuist, worden door mij en anderen inhoudelijk weerlegd, en er wordt geen enkel inhoudelijk of overtuigend tegenargument gegeven.

Ja, dan is Methusalah écht iemand die "gekleineerd wordt"...

[Moneyman]

Tweakers noemt een doorverwijzing naar niet-meer bestaande restaurants als voorbeeld en daar kan ik me iets bij voorstellen.

En dat is nu net géén hallucinatie, maar gewoon een fout antwoord gebaseerd op verouderde informatie.

Bevestigt wel dat je eigen standpunt dat je niet deskundig bent, klopt. Of je dan de juiste persoon bent om in deze discussie anderen de maat te nemen, moet je je dan misschien wel even afvragen...

Wat overigens wel duidelijk terugkomt in de Tweakers-discussie, is dat veel problemen te danken zijn aan slechte prompts en gebruik alsof het een zoekmachine is. Exact wat ik aan het begin van de discussie al aangaf.

[Nijogeth]

AI is niet alleen maar vragen stellen.

Een voorbeeld:
AI kan hele muzieknummers verzinnen. Ik kan dat niet zelf. Ik kan nog wel een tekst schrijven, maar door mijn beperkte zangvermogen en complete gebrek aan beheersing van een enkel instrument is het onmogelijk dat ik daar een fatsoenlijk klinkend nummer van weet te maken. Met de komst van AI kan ik dus een idee in mijn hoofd uitwerken naar een compleet nummer zoals ik het wil, alleen door de juiste parameters in te geven.

Stel dus, je bent een muziekproducer en zorgt voor de juiste mixes voor opnames van andere artiesten. Voorheen deed je daar 3 dagen over, omdat vooral het eerste deel om alle losse opnames synchroon te krijgen gewoon verschrikkelijk veel werk was en het finetunen daarna ook, maar het uiteindelijke afmixen om het 100% te krijgen, dat kost je maar een uurtje. Dan kun je die eerste 2 stappen nu door AI laten doen in 10 minuten en heb je een nummer klaar in iets meer dan een uurtje.

[Consumenneke]

Wat overigens wel duidelijk terugkomt in de Tweakers-discussie, is dat veel problemen te danken zijn aan slechte prompts en gebruik alsof het een zoekmachine is. Exact wat ik aan het begin van de discussie al aangaf.

Dat doet denken aan die timmerman die schroeven in hout bevestigt met een hamer.

In het Tweaker-artikel over hallucinaties wordt amper over prompts gepraat, wel over instelbare creativiteit en temperatuur.

Dat is in het kader van dit forum niet zo boeiend, maar eigenlijk is dit hele topic geen consumentenkwestie.

Vrolijk blijven doorhameren!

[Moneyman]

Ja, de juiste instellingen had ik in mijn eerdere reactie al als relevant benoemd…

En blijkbaar heb je de discussie onder het artikel niet gelezen, want dan had je herkend wat ik schrijf. Geeft niks hoor…. Maar nogmaals: discussiëren is weinig zinvol als je alleen maar even wat roept, duidelijk zonder te weten waarover je spreekt.
.

[Consumenneke]

En blijkbaar heb je de discussie onder het artikel niet gelezen, want dan had je herkend wat ik schrijf. Geeft niks hoor….

U hamert maar door op die prompts, maar ook in de bijna honderd reacties wordt nauwelijks over prompts gepraat. Ik kwam de volgende geciteerde verwijzing tegen en iemand anders die klaagde over het energieverbruik van prompts. Ik maak me nu zorgen over het energieverbruik van iedereen die reageert op uw stellige beweringen.

De prompt hoe uitgebreid ook moet kinderlijk eenvoudig zijn anders gaat het fout.

Het is jammer dat elk antwoord een sneer bevat. Maar ik zie dat bijna iedereen doelwit is wiens reactie u niet bevalt.

[Moneyman]

U hamert maar door op die prompts, maar ook in de bijna honderd reacties wordt nauwelijks over prompts gepraat.

Als je reacties waarin het woord "prompt" niet wordt gebruikt niet meetelt wellicht niet. Als je de reacties onder de bewuste artikelen (deze en deze onderliggende) begrijpend leest, verandert je beeld wellicht...

Maar goed, waarom doe ik nog moeite...

[Moneyman]

Overigens doen niet alleen "gewone burgers" dat, zoals de advocaat in deze zaak laat zien...

5.16.
Tijdens de mondelinge behandeling is vastgesteld dat alle verwijzingen in de conclusie van antwoord naar uitspraken van de Hoge Raad onjuist zijn. In de conclusie van antwoord heeft Dwaard verwezen naar (vermeende) uitspraken van de Hoge Raad ten aanzien van het handelsnaamrecht, met vermelding van een (vermeend) ECLI-nummer. Geen enkele van de aangehaalde (vermeende) arresten heeft betrekking op het handelsnaamrecht. Sommige ECLI-nummers horen bij strafrechtelijke uitspraken, andere bestaan in het geheel niet. Desgevraagd heeft (de advocaat van) Dwaard verklaard dat dit alles is veroorzaakt door een probleem bij het converteren van een word-bestand naar pdf. Deze verklaring roept vragen op. De rechtbank laat die vragen en de vraag of hiermee artikel 21 Rv is geschonden verder in het midden, omdat Dwaard per saldo geen voordeel heeft gehad van de onjuiste voorstelling van zaken in de conclusie van antwoord.

En de volgende advocaat maakt een uitglijder... helaas zonder al te veel gevolgen.

Opmerking vooraf
3. De gemachtigde van eiser heeft een dag voor de zitting in zijn aanvullende beroepsgronden (getiteld: ‘spreekaantekeningen’) ter onderbouwing van zijn standpunt verwezen naar een reeks van (vermeende) uitspraken van de Centrale Raad van Beroep (CRvB), met vermelding van een (vermeend) ECLI-nummer. De rechtbank heeft twee van de aangehaalde uitspraken, die gaan over de Participatiewet, kunnen vinden op [website] . Van de andere uitspraken komt de combinatie van de datum van de uitspraak en het ECLI-nummer niet overeen of de uitspraken blijken niet te bestaan. De ECLI-nummers die de rechtbank heeft kunnen vinden, bleken (op de twee genoemde uitspraken na) te gaan over niet relevante onderwerpen. De gemachtigde van eiser kon tijdens de zitting het bestaan, de vindplaats en de relevantie van deze (vermeende) rechtspraak niet verder verduidelijken. De rechtbank kan zich dan ook niet aan de indruk onttrekken dat gebruik is gemaakt van ChatGPT of een andere AI-tool. Wat daar ook van zij, nu sommige (vermeende) uitspraken niet bestaan en van andere aangehaalde uitspraken de relevantie onduidelijk is, zal de rechtbank het beroep op deze (vermeende) rechtspraak passeren.

[Consumenneke]

En de volgende advocaat maakt een uitglijder... helaas zonder al te veel gevolgen.

Kunstmatige jurisprudentie! En niet van een advocaat bij (sinds maart 2024) een onbekend kantoor...

[Consumenneke]

Onze Antoinette Hertsenberg was vandaag bij EVA om te praten over AI en media.

[J. Deltoer]

Nou, dat zal vast boeiend zijn geweest.

[De Posthoorn]

Onze Dave was bij VI om te praten over AI en media.

[Moneyman]

De stroom aan AI-jurisprudentie is inmiddels onstopbaar geworden.

Afgelopen week kwam er weer een mooi voorbeeld voorbij.

4.1.
Vooraf merkt de rechtbank op dat zij de indruk heeft gekregen dat eiser bij het voeren van deze procedure ‘juridisch advies’ heeft ingewonnen bij ChatGPT of een andere generatieve AI. Een sterke aanwijzing daarvoor ziet de rechtbank in de door eiser (in zijn conclusie van repliek) genoemde uitspraak van de rechtbank Amsterdam van 18 augustus 2022, ECLI:NL:RBAMS4703. Deze uitspraak bestaat niet. Het ECLI-nummer betreft een niet gepubliceerde uitspraak van 20 juli 2022 in een civiele zaak. Ook is van de rechtbank Amsterdam geen uitspraak van 18 augustus 2022 gepubliceerd die over een parkeerbelastingzaak gaat. Met name in het aanhalen van eerdere rechterlijke uitspraken ‘hallucineert’ generatieve AI regelmatig. Verder is het punt waar eiser in deze procedure op hamert dat er een volgens hem verkeerde straatnaam in de naheffingsaanslag en ook de uitspraak op bezwaar staat en dat alleen al daarom de naheffingsaanslag zou moeten worden vernietigd. Maar zo formalistisch zit het recht niet in elkaar, temeer – zoals uit de verdere overwegingen blijkt – omdat eiser exact weet waar hij heeft geparkeerd en hierover ook geen noemenswaardig verschil van inzicht met de heffingsambtenaar bestaat. Of eiser deze procedure is gestart na ‘juridisch advies’ van een generatieve AI weet de rechtbank niet. Het had eiser – naast de al betaalde kosten voor de naheffingsaanslag – de kosten van het griffierecht bespaard als hij bij iemand die ter zake kundig is had gevraagd of het zinvol was om hierover te procederen. Dat laatste is het namelijk niet. Niettemin zal de rechtbank puntsgewijs ingaan op wat eiser aanvoert om duidelijk te maken waarom zijn argumenten niet tot vernietiging van de naheffingsaanslag kunnen leiden.

Vanmorgen zag ik nog een artikel die een interessante discussie raakt: namelijk de vraag of AI een vorm van bewustzijn of morele status kan hebben.

Daarmee zet Anthropic een stap die weinig andere grote AI bedrijven publiekelijk durven zetten. In nieuwe richtlijnen voor Claude schrijft het bedrijf zelfs dat het onzeker is of de chatbot misschien “een vorm van bewustzijn of morele status” heeft. Anthropic zegt daarom rekening te willen houden met het welzijn van het model, al blijft onduidelijk wat dat in de praktijk precies betekent.