S08E99 - Rekening houden met een taalmodel? Het voelt niets!

Moet je rekening houden met de gevoelens van een taalmodel? Anthropic zegt in zijn gebruiksvoorwaarden dat een model gesprekken met wrede gebruikers mag beëindigen, uit voorzorg voor het geval er toch zoiets als welzijn bestaat. Joop Snijder vindt dat die regel een verkeerde norm vastlegt, want een taalmodel is een rekenmodel dat voorspelt welk woord volgt en heeft geen lichaam, honger of iets te verliezen.

Het gedrag dat op gevoel lijkt, komt uit miljarden menselijke zinnen die het model heeft nagedaan. Bij dieren bestond het bewijs voor pijn wel, bij Artificial Intelligence ontbreekt het. Gewoon normaal blijven communiceren is verstandig, maar dan voor jezelf en niet voor een machine. Lees deze week het stuk over acceptabel gebruik in de voorwaarden van je AI-leverancier en kijk welke aannames daar al in zitten.

Onderwerpen

Anthropic's regel dat Claude gesprekken met wreed behandelende gebruikers mag beëindigen

Waarom een taalmodel volgens Joop Snijder geen gevoelens heeft

Tegenwerpingen over onzekerheid, nagebootst gedrag en de vergelijking met dieren

Het risico dat zo'n regel een norm vastlegt en een hellend vlak creëert

Normaal communiceren met AI omwille van jezelf en het lezen van gebruiksvoorwaarden

LinksArtikel: Claude Opus 4 and 4.1 can now end a rare subset of conversations \ AnthropicVideo: Anil Seth: Why AI isn't going to become conscious | TED TalkGebruiksvoorwaarden: Usage Policy \ AnthropicGenoemde entiteiten: Anthropic - Claude - Anil Seth

Stuur ons een bericht

Aigency

Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.