Stimmungsentwicklung

Die nonchalante LLM-Nutzung durch fähige Entwicklerinnen (und Mathematikerinnen), die natürlich nicht an der IKEA-Linie scheitern, sorgt für viel Aufsehen, und Dare Obasanjo wird nicht müde, das Potential von generativer KI für die Software-Entwicklung und Produktmanagement zu beschwärmen. Andererseits:

Ich war bei einem medizinischen Termin und wurde von einer freundlichen Person empfangen. Kurz nach der netten Begrüssung erwähnte sie, ein Video gesehen zu haben, welches erklärt, wie einfach es heutzutage für jeden ist, Software mit KI zu erstellen. Das löste eine Idee aus: Warum eine bewährte Branchenlösung nutzen, wenn man einfach sein eigenes Patientenverwaltungssystem bauen könnte?

Genau das hat die Person gemacht. Sie startete einen Coding-Agent nach Anleitung aus dem Video, baute eine eigene Patientenverwaltungsanwendung, importierte alle bestehenden Patientendaten und veröffentlichte die Anwendung im Internet. Die Person fügte sogar eine Funktion hinzu, um Gespräche während der Termine aufzuzeichnen und die Audioaufnahmen an nicht einen, sondern gleich zwei KI-Dienste zur automatischen Zusammenfassung zu senden. Kein manuelles Tippen mehr.

Die gesamte Anwendung bestand aus einer einzigen HTML-Datei mit allem darin: JavaScript, CSS und HTML-Struktur. Das Backend war ein Cloud-Datenbankdienst ohne jegliche Zugriffskontrolle, keine Row-Level Security, keine Verschlüsselung, nichts. Die gesamte Zugriffskontrolle befand sich im JavaScript im Browser, was bedeutete, dass die Daten für jeden mit einem einzigen curl-Befehl erreichbar waren.

Alle Audioaufnahmen wurden direkt an externe KI-APIs zur Transkription und Zusammenfassung gesendet.

Im Vergleich dazu ist die ePA tatsächlich sehr sicher.