ChatGPT is geen bron...

[Moneyman]

Afgelopen dagen hadden we in een ander topic een discussie over de vraag of en hoe AI-output te gebruiken is als bron.

Maar met willekeurige door een AI-tool opgehoeste cijfers zónder de moeite te nemen de bijbehorende bronvermelding te checken of te noemen is gewoon gemakzuchtig discussiëren en zinloos.

Toevallig publiceert Arnoud Engelfriet morgen in het Nederlands Juristenblad een artikel hierover. Een kleine give-away:

De misvatting dat ChatGPT een bron zou zijn, moet te vuur en te zwaard bestreden worden. Niet vanwege
zorgen over gehallucineerde arresten of bulkplagiaat, maar vanwege de fundamentele en simpele reden dat zij
geen bron ís. Bronnen plaatsen onderzoek. Bronnen legitimeren een betoog. Bronnen maken controle mogelijk. ChatGPT doet niets van dit alles. ChatGPT is een methodologisch instrument, niet meer en niet minder.

Ik deel het artikel maar even in een nieuw topic, om ruis in een gezondheidszorgtopic te voorkomen.

(verwijderd ivm citaatrecht)

[esphome]

Maurice de Hond schudde vannacht er zo live een regeerakkoord eruit door AI te gebruik en adviseerde de formateur ook zo de verschillende partijstandpunten bij elkaar kunnen knutselen.

In de onderhandelingen kan dan er gestreept en aangevuld worden.

Wie weet worden wij straks met hulp van AI geregeerd en kunnen de formatie weer naar normale termijnen terugbrengen.

Zelf ben ik mordicus tegen het gebruik van AI, maar goed als burger voel je vooral een roepende in de woestijn.

[16again]

Als ik dit topic zie, gaat mijn eerste gedachte naar het citaatrecht.

[kuklos]

Als ik dit topic zie, gaat mijn eerste gedachte naar het citaatrecht.

Verklaar je nader.

[Moneyman]

Zelf ben ik mordicus tegen het gebruik van AI, maar goed als burger voel je vooral een roepende in de woestijn.

Ik vind het een prima hulpmiddel - mits met verstand gebruikt. Dat half Nederland tegenwoordig AI-output als heilige graal ziet, is wel een probleem.

[angel1978]

Zelf ben ik mordicus tegen het gebruik van AI, maar goed als burger voel je vooral een roepende in de woestijn.

Ik vind het een prima hulpmiddel - mits met verstand gebruikt. Dat half Nederland tegenwoordig AI-output als heilige graal ziet, is wel een probleem.

Maar daar heb je dan ook meteen het probleem duidelijk. AI KAN een prima tool zijn, maar als je kijkt naar hoe de 'gewone' Nederlander het dan gaat gebruiken
* maken van huiswerk
* maken van scripties / examens
* bron van 'betrouwbare' informatie / de waarheid
* het maken van illegale filmpjes/muziek
* niet meer zelf te hoeven nadenken..

[Morgan le Fay]

Zelf ben ik mordicus tegen het gebruik van AI, maar goed als burger voel je vooral een roepende in de woestijn.

Ik vind het een prima hulpmiddel - mits met verstand gebruikt. Dat half Nederland tegenwoordig AI-output als heilige graal ziet, is wel een probleem.

Welk verstand??
Als ik Facebook open trek (ik heb een leeg account en gebruik dit om te lezen) gaan mijn grijze haren steil overeind staan a la Einstein wat er voor een rommel wordt gepost, heb ik absoluut geen vertrouwen in AI.

[Moneyman]

Zelf ben ik mordicus tegen het gebruik van AI, maar goed als burger voel je vooral een roepende in de woestijn.

Ik vind het een prima hulpmiddel - mits met verstand gebruikt. Dat half Nederland tegenwoordig AI-output als heilige graal ziet, is wel een probleem.

Maar daar heb je dan ook meteen het probleem duidelijk. AI KAN een prima tool zijn, maar als je kijkt naar hoe de 'gewone' Nederlander het dan gaat gebruiken
* maken van huiswerk
* maken van scripties / examens
* bron van 'betrouwbare' informatie / de waarheid
* het maken van illegale filmpjes/muziek
* niet meer zelf te hoeven nadenken..

Ja, daarmee bevestig je precies mijn punt.

Overigens doen niet alleen "gewone burgers" dat, zoals de advocaat in deze zaak laat zien...

5.16.
Tijdens de mondelinge behandeling is vastgesteld dat alle verwijzingen in de conclusie van antwoord naar uitspraken van de Hoge Raad onjuist zijn. In de conclusie van antwoord heeft Dwaard verwezen naar (vermeende) uitspraken van de Hoge Raad ten aanzien van het handelsnaamrecht, met vermelding van een (vermeend) ECLI-nummer. Geen enkele van de aangehaalde (vermeende) arresten heeft betrekking op het handelsnaamrecht. Sommige ECLI-nummers horen bij strafrechtelijke uitspraken, andere bestaan in het geheel niet. Desgevraagd heeft (de advocaat van) Dwaard verklaard dat dit alles is veroorzaakt door een probleem bij het converteren van een word-bestand naar pdf. Deze verklaring roept vragen op. De rechtbank laat die vragen en de vraag of hiermee artikel 21 Rv is geschonden verder in het midden, omdat Dwaard per saldo geen voordeel heeft gehad van de onjuiste voorstelling van zaken in de conclusie van antwoord.

[Moneyman]

Zelf ben ik mordicus tegen het gebruik van AI, maar goed als burger voel je vooral een roepende in de woestijn.

Ik vind het een prima hulpmiddel - mits met verstand gebruikt. Dat half Nederland tegenwoordig AI-output als heilige graal ziet, is wel een probleem.

Welk verstand??
Als ik Facebook open trek (ik heb een leeg account en gebruik dit om te lezen) gaan mijn grijze haren steil overeind staan a la Einstein wat er voor een rommel wordt gepost, heb ik absoluut geen vertrouwen in AI.

Wat je op Facebook ziet, is natuurlijk (en gelukkig) geen representatieve weergave van hoe AI wél nuttig ingezet kan worden. Overigens is de niet-AI-geproduceerde "content" op FB minstens zo erg

[Moneyman]

Maar goed, dit topic was niet per sé bedoeld voor een "wel of geen ChatGPT-discussie

[angel1978]

Ik vind het een prima hulpmiddel - mits met verstand gebruikt. Dat half Nederland tegenwoordig AI-output als heilige graal ziet, is wel een probleem.

Maar daar heb je dan ook meteen het probleem duidelijk. AI KAN een prima tool zijn, maar als je kijkt naar hoe de 'gewone' Nederlander het dan gaat gebruiken
* maken van huiswerk
* maken van scripties / examens
* bron van 'betrouwbare' informatie / de waarheid
* het maken van illegale filmpjes/muziek
* niet meer zelf te hoeven nadenken..

Ja, daarmee bevestig je precies mijn punt.

Overigens doen niet alleen "gewone burgers" dat, zoals de advocaat in deze zaak laat zien...

5.16.
Tijdens de mondelinge behandeling is vastgesteld dat alle verwijzingen in de conclusie van antwoord naar uitspraken van de Hoge Raad onjuist zijn. In de conclusie van antwoord heeft Dwaard verwezen naar (vermeende) uitspraken van de Hoge Raad ten aanzien van het handelsnaamrecht, met vermelding van een (vermeend) ECLI-nummer. Geen enkele van de aangehaalde (vermeende) arresten heeft betrekking op het handelsnaamrecht. Sommige ECLI-nummers horen bij strafrechtelijke uitspraken, andere bestaan in het geheel niet. Desgevraagd heeft (de advocaat van) Dwaard verklaard dat dit alles is veroorzaakt door een probleem bij het converteren van een word-bestand naar pdf. Deze verklaring roept vragen op. De rechtbank laat die vragen en de vraag of hiermee artikel 21 Rv is geschonden verder in het midden, omdat Dwaard per saldo geen voordeel heeft gehad van de onjuiste voorstelling van zaken in de conclusie van antwoord.

Advocaten, professoren, politici zijn wat mij betreft ook 'gewone' burgers met hun mankementen. Daarom staat gewone ook tussen aanhalingstekens. Dit is een tool die moet gebruikt worden binnen een context waar deze meerwaarde heeft ( ik denk bijvoorbeeld aan analyse/detectie van kanker of andere medische en niet-medische toepassingen ). Het is een technische tool met een technische/functionele meerwaarde, niet een leuk speeltje.

Datzelfde zie je overigens ook terug bij zoiets als drones. In een film-achtige of opspoor activiteit kan dit een heel nuttige toepassing zijn en ongetwijfeld ook bij defensie.. Wellicht zou je er in een sport-context ook best iets mee kunnen. Maar waarom drones boven een huis, tuin of zwembad moeten zweven en waarom kinderen en amateurs iets met zo'n ding moeten is mij werkelijk een raadsel, behalve anderen lastigvallen.

[Nijogeth]

AI is prima om te gebruiken als basis voor een tekst over een onderwerp waar je al wat vanaf weet, maar uiteraard niet als bron. En ook niet als je het gebruikt voor zaken waar je niets vanaf weet. Uiteindelijk dien je toch over de tekst heen te lezen, de info te controleren en waar nodig aan te passen. Zonder kennis kan dat al niet.

Wij hebben bij de meeste zaken op ons werkgebied eigenlijk wel in de gaten dat wat AI zegt niet klopt en dat komt omdat er veel mensen zonder kennis dingen online hebben gegooid. Uiteindelijk ga je dus naar een AI die iets fout interpreteert en andere AI's die zich daarmee inleren en dus nog meer fouten gaan maken.

Voor echt efficiënte dingen, waarvan normale mensen er effect van gaan merken, moeten we nog wel een aantal jaar wachten. In productieprocessen en in softwareontwikkeling gaan we daar veel sneller iets in terugzien, maar de normale mens zal dat in het dagelijks leven niet gauw tegenkomen.

[rwolters]

Maurice de Hond schudde vannacht er zo live een regeerakkoord eruit door AI te gebruik en adviseerde de formateur ook zo de verschillende partijstandpunten bij elkaar kunnen knutselen.

In de onderhandelingen kan dan er gestreept en aangevuld worden.

Wie weet worden wij straks met hulp van AI geregeerd en kunnen de formatie weer naar normale termijnen terugbrengen.

Zelf ben ik mordicus tegen het gebruik van AI, maar goed als burger voel je vooral een roepende in de woestijn.

Het voorbeeld van een regeerakkoord is nu juist iets waar LLMs goed in zijn. Je upload de verkiezingsprogramma's en de LLM haalt daaruit de overeenkomsten en verschillen (in verschillende gradaties). Je hebt dan een eerste draft waaover onderhandeld kan worden.

Ik gebruik deze mogelijkheid dagelijks om verschillen en overeenkomsten in documenten te vinden en te beschrijven.

[Moneyman]

AI KAN een prima tool zijn, maar als je kijkt naar hoe de 'gewone' Nederlander het dan gaat gebruiken
* maken van huiswerk
* maken van scripties / examens

Nou, grappig genoeg komt in dezelfde versie van het Nederlands Juristenblad nóg een artikel (van Joris van Laarhoven) terug, te weten "GenAI aan rechtenfaculteiten: uit voorzorg verbieden". Wel iets meer leesvoer

[Onkruid71]

Ik gebruik AI meestal als leidraad, en dat heeft me al vaak geholpen.

[Polvo176]

Ai zoals chatgpt is helemaal niet intelligent, het is alleen een slimme zoekmachine die internet afstruint.
En dan geeft het ook nog vaak verkeerde antwoorden, komt met zwaar verouderde informatie of kan het niet vinden.
Ik vroeg b.v. twee gegevens, chatgpt vond er één en over de ander was geen informatie te vinden.
Diverse pogingen met andere beschrijvingen gedaan, maar dat haalde niks uit
Het tweede antwoord stond echter op de zelfde internet pagina als het eerste.
Op internet is zoveel onzin te vinden, als dat de bron van de intelligentie moet zijn is het niet best.
80% van de antwoorden kon ik uiteindelijk niks mee, het koste alleen heel veel tijd om er uiteindelijk achter te komen dat antwoord niet deugde.
Pas goed op en laat je geen rad voor ogen draaien door zo'n zoekmachientje.

[witte angora]

Op internet is zoveel onzin te vinden,

Inderdaad, een tijd terug, zoekend naar een recept voor brood, tot 2 keer toe een blog tegengekomen waarin huppeltutjes brood zonder water kunnen bakken. En o, wat was het heerlijk, o, wat was het heerlijk, en de hele familie (die je in het voorgaande kletsverhaal al had leren kennen) vond het ook zo heerlijk. Maar goed, als je nooit eerder brood hebt gebakken kan je er vast wel wat mee.

Ben benieuwd naar de ChatGPT-versie... of eigenlijk toch maar niet.

[Moneyman]

Ai zoals chatgpt is helemaal niet intelligent, het is alleen een slimme zoekmachine die internet afstruint.

Als je denkt dat het alleen dat is, dan heb je blijkbaar geen flauw idee van de waardevolle mogelijkheden die ChatGPT ook biedt.

En: het schrijven van de juiste prompt is óók een vak apart, als je ChatGPT domweg gebruikt alsof je aan het googelen bent is de uitkomst ook niet beter dan dat. Gebruik je echter een goeie prompt, dan is de uitkomst ook gewoon veel beter.

Ergo: je moet wel weten wat je doet...

[Consumenneke]

Als ik dit topic zie, gaat mijn eerste gedachte naar het citaatrecht.

Dat werkt ongeveer zo: je kan citeren en parafraseren (in eigen woorden), maar je mag niet kopiëren.

Een beeldcitaat is toegestaan bij een recensie of relevante verwijzing (met enige nuances).

Ai zoals chatgpt is helemaal niet intelligent, het is alleen een slimme zoekmachine die internet afstruint.

Google AI is zelfs lachwekkend slecht. De onzin die daar soms uit komt! Egbert Engelfriet (broer van) is het met je eens.

Neuropsycholoog Erik Scherder zei het in Nieuwsuur nog treffend: AI kan leiden tot afnemende intelligentie. Niet omdat het systeem dom is, maar omdat wij ons brein niet meer uitdagen. En precies dat is wat ons brein nodig heeft om te groeien.

En laat je niet afleiden door neerbuigend commentaar.

[Methusalah]

Ai zoals chatgpt is helemaal niet intelligent, het is alleen een slimme zoekmachine die internet afstruint.

Als je denkt dat het alleen dat is, dan heb je blijkbaar geen flauw idee van de waardevolle mogelijkheden die ChatGPT ook biedt.

En: het schrijven van de juiste prompt is óók een vak apart, als je ChatGPT domweg gebruikt alsof je aan het googelen bent is de uitkomst ook niet beter dan dat. Gebruik je echter een goeie prompt, dan is de uitkomst ook gewoon veel beter.

Ergo: je moet wel weten wat je doet...

Met alle respect, dat is exact wat het is. Het is een parser van content geschreven door mensen. Intelligentie is dan ook een misnomer want er is geen sprake van intelligentie. Het kan geen conclusies trekken of iets op waarde beoordelen. Dus elk resultaat wat je krijgt moet je controleren.