Wenn dich Google-Algorithmen aus deinem digitalen Leben aussperren

Heute ist es ganz normal, wenn man Fotos, E-Mails, Kalender und viele andere Dienste von einem einzigen Konzern abwickeln lässt. Aber wenn etwas schief läuft, kann das fatale Folgen haben.

Ich weiß gar nicht mehr, wer uns das erzählt hat, aber mir kam zuletzt erst wieder eine echt dämliche Story unter. Und zwar hat eine Person eine Kombination aus E-Mail und Passwort für einfach alle Online-Dienste verwendet. Dazu wohl auf die Mehrfaktor-Authentifizierung verzichtet. Eine krasse Fehleinschätzung der Person.

Nachdem die Kombination von E-Mail und Passwort bösartigen Menschen oder Bots bekannt war, konnte die Person auf keines ihrer Online-Kontos mehr zugreifen. Binnen weniger Minuten sind alle Online-Dienste gekapert, bei denen die Kombination hinterlegt ist. Das sollte man heutzutage unbedingt bedenken.

Google: Algorithmen mit gutem Hintergrund können fiese Entscheidungen treffen

Aber es gibt auch andere Gründe, die euch große Probleme bescheren können. Fotos. Und zwar die Fotos eurer Kinder, die möglicherweise explizit sein können. Uns erreichte in diesen Tagen wieder eine spannende und zugleich sehr krasse Geschichte. Zu lesen in der New York Times, wir fassen sie für euch zusammen.

Ein Vater wollte von seinem Kind ein paar Fotos für die Analyse eines Arztes erstellen. Sie zeigten den Intimbereich und wohl zugleich auch die Hand des Vaters. Die Fotos erreichten jedoch nicht nur den Arzt, der schnell helfen konnte. Sondern auch die Google-Cloud. Hier arbeiten Mechanismen, die Missbrauch und ähnliche Dinge auf Fotos erkennen können.

Die missverständlichen Fotos des Familienvaters wurden fälschlicherweise falsch eingestuft. Das Google-Konto wurde sofort gesperrt. „Harmful content“, so der Vorwurf. Binnen weniger Sekunden war das digitale Leben von Mark für ihn nicht mehr erreichbar. Kalender, Kontakte, Fotos, E-Mails – alles bei Google und jetzt unerreichbar.

Bei Mark kam es sogar zu einer polizeilichen Untersuchung. Die passiert zumindest in den USA automatisch, wenn derartige Inhalte von den Algorithmen erkannt und gegenüber Behörden gemeldet werden. Hier gab es natürlich das Ergebnis, dass es keine strafwürdigen Handlungen gegeben hat. Was den Google-Konzern jedoch nicht interessiert.

„Er verwendet jetzt eine Hotmail-Adresse für E-Mails, für die ihn die Leute verspotten, und erstellt mehrere Sicherungskopien seiner Daten.“

Man muss als Nutzer aufpassen, nicht unrechtmäßig schuldig zu sein

Grundsätzlich halte ich es für falsch, explizite Fotos der eigenen Kinder zu versenden. Auch nicht, wenn es um ärztlichen Rat geht. Außerdem sollte man, wie dieser Fall zeigt, bei der Verwendung von Cloud-Diensten darüber nachdenken, welche potenziellen Folgen von eurer Seite aus zu vermeiden wäre.

Kritik gibt es natürlich für Google reichlich. Algorithmen können komplett falsch liegen und dennoch kommt es unter Umständen dazu, dass ihr eine Hausdurchsuchung erleben müsst und euer digitales Leben vorerst endet. Es sollte auch für Cloud-Dienste eine Grenze der Privatsphäre geben.

Vor einiger Zeit berichteten wir über einen anderen Fall. Auch da folgte die Sperrung des Nutzers.