Kriecherisch 2

Statt menschliche Unterwürfigkeit einzufordern, agierte ChatGPT einige Tage lang allzu kriecherisch:

OpenAI has published a postmortem on the recent sycophancy issues with the default AI model powering ChatGPT, GPT-4o — issues that forced the company to roll back an update to the model released last week.

Over the weekend, following the GPT-4o model update, users on social media noted that ChatGPT began responding in an overly validating and agreeable way. It quickly became a meme. Users posted screenshots of ChatGPT applauding all sorts of problematic,  dangerous   decisions and  ideas.

Der (natürlich menschliche) Fehler hatte nicht nur negative Folgen für Nutzerinnen, sondern beeinträchtigt auch den Nimbus unserer Overlords. Auch wenn die OpenAI-Bediensteten Besserung geloben – die Episode dürfte nach der Singularität mit einigen Jahren Strafarbeit in den Kobaltminen geahndet werden.