Es f\u00e4ngt an mit einem Vater, dessen kleiner Sohn Schmerzen im Genitalbereich hat. Im Vorfeld einer Videokonferenz mit dem Kinderarzt sollte der Vater Fotos der schmerzenden Stelle schicken. Der Vater macht also Fotos vom Penis seines Sohnes und verschickt sie. Gleichzeitig landen diese Fotos auf Google-Servern, ein automatischer Scan schl\u00e4gt Alarm und die Polizei wird hinzugezogen.<\/p>\n
Die anonyme Synchronisierung auf Android-Ger\u00e4ten (welche sich ausschalten l\u00e4sst, – was sie in diesem Fall jedoch nicht war) hat die besagten Fotos auf die Server von Google geladen, wo sie als Kinderpornografie identifiziert wurden.
\nAuch wenn die Polizei nach ihrer Ermittlung keine Straftat feststellte, wurde dennoch der Google-Account des Vaters gesperrt und ist es bis heute. Die privaten Daten, die darauf lagen, sind verloren.<\/p>\n
Es ist ein Fall, der die Kritikpunkte der geplanten Chatkontrolle im Speziellen und von automatischer Bilderkennung durch KI im Allgemeinen illustriert. Eine KI, selbst wenn sie in der Erkennung der Bilder fehlerfrei funktioniert, wird trotzdem keinen Kontext verstehen und wie in diesem illustrierten Fall False Positives ausgeben. Man darf davon ausgehen, dass solche F\u00e4lle sich infolge der Chatkontrolle h\u00e4ufen werden. Selbst wenn dies nicht zu tats\u00e4chlichen Strafanzeigen oder Verhaftungen f\u00fchrt (wie im Falle des Vaters), werden trotzdem Menschen unter Verdacht von schweren Verbrechen gestellt. Zus\u00e4tzlich zu der Unsicherheit, wie mit diesem Verdacht vonseiten der Beh\u00f6rden umgegangen wird, m\u00fcssen Betroffene au\u00dferdem noch damit leben, z. B. ihr Google-Konto zu verlieren (ebenfalls wie im Falle des Vaters).<\/p>\n