Zunehmende Versuche, Versicherungsunternehmen mit KI-Fotos zu betrügen

Es dauerte nicht lange nach dem Auftauchen verschiedener Werkzeuge der künstlichen Intelligenz, bis ihr Missbrauch offensichtlich wurde. In der Flut von verschiedenen Fotos von Schäden an Autos, die täglich bei Versicherungsunternehmen eingehen, werden zunehmend einige gefälschte Fotos eingereicht, bei denen Kratzer präzise mit diesen Werkzeugen hinzugefügt wurden.

Nämlich sind Versicherungsunternehmen Ziele für Betrüger, die kreativer geworden sind in ihren Bemühungen, Versicherungszahlungen für (nicht vorhandene) Schäden auf ihre Konten gutgeschrieben zu bekommen. Mehrere Versuche solcher Betrügereien wurden bereits bei der Triglav Versicherung festgestellt.

– In einem konkreten Fall reichte ein Kunde Fotos über eine Online-Anwendung ein, die mit Hilfe von auf künstlicher Intelligenz basierenden Werkzeugen digital bearbeitet worden waren. Ziel solcher Manipulationen war es meist, Schäden darzustellen, die am gemeldeten Fahrzeug tatsächlich nicht aufgetreten sind, oder den tatsächlichen Schaden zu übertreiben. Die Fotos schienen zunächst überzeugend, aber dank der Erfahrung unserer Gutachter und des standardisierten Prüfprozesses hatten wir bald Zweifel an ihrer Authentizität.

Durch den Vergleich mit vorherigen Aufzeichnungen des Fahrzeugs und zusätzlichen Überprüfungen mit internen Datenbanken und Schadensformularen stellten wir fest, dass es erhebliche Diskrepanzen im Vergleich zum tatsächlichen Zustand des Fahrzeugs gab – beschreibt die Situation Roko Gruja, Direktor des Schadensmanagements bei der Triglav Versicherung.

Kommt das Schlimmste noch?

Manipulationen von Fotografien im Schadensbearbeitungsprozess gibt es schon lange, betont Kristijan Oslić, Direktor der Abteilung für Betrugsprävention und Verbesserung der Schadensbearbeitung bei Croatia Insurance und LAQO digital insurance. Obwohl sie in der Praxis noch nicht auf KI-generierte gefälschte Fotos gestoßen sind, erwarten sie, dass die KI-Technologie am häufigsten zur Manipulation von Fotos von Fahrzeugen, Immobilien oder Schiffen eingesetzt wird.

Bei Triglav verzeichnen sie jedoch derzeit keinen signifikanten Anstieg solcher Fälle, aber das bedeutet nicht, dass sie sie nicht bemerken.

– Wir müssen uns bewusst sein, dass der Zugang zu Werkzeugen, die digitale Bearbeitung ermöglichen, einfacher wird, was bedeutet, dass wir in Zukunft einen Anstieg solcher Versuche sehen werden – warnt Gruja.

Die häufigsten Formen der Fälschung in der bisherigen Praxis der Triglav Versicherung beinhalten, dass Kunden versuchen, Schäden von einem Fahrzeug auf ein anderes zu übertragen.

– Ein typisches Szenario besteht darin, Schäden an einem fremden Fahrzeug zu fotografieren und dann KI-Werkzeuge oder andere digitale Programme zu verwenden, um diesen Schaden auf das eigene Fahrzeug zu ‚kopieren‘. Dies geschieht meist mit dem Ziel, bereits bestehende Schäden oder Schäden, die an diesem Fahrzeug nicht aufgetreten sind, als neuen Schaden darzustellen, damit der Kunde eine Entschädigung verlangen kann – sagt Gruja.

Daten entlarven Betrüger

Während die Manipulation von Fotografien nach schnellem und einfachem Geld klingt, führt die Entwicklung der künstlichen Intelligenz auch zur Entwicklung von Systemen zur Erkennung gefälschter Fotografien. Beispielsweise sind Versicherungsunternehmen bereits auf Betrugsversuche vorbereitet, sodass sie bei der Bewertung von Fotografien, die von Kunden eingereicht werden, sich nicht nur auf eine Methode verlassen, um zu bestimmen, ob der Schaden echt ist oder nicht.

– Da immer mehr Prozesse digitalisiert werden, was unter anderem bedeutet, dass der Kunde Schadensfotos über digitale Kanäle einreicht, liegt der Schlüssel in der Sicherheit der Quelle, d.h. wie und durch was der Kunde Inhalte an den Versicherer übermittelt. Deshalb verwenden wir technologisch fortschrittliche Anwendungen und Werkzeuge zum Fotografieren und Versenden von Dokumentationen, die keine Manipulation der übermittelten Inhalte zulassen. Diese Werkzeuge ermöglichen auch die Überprüfung von Metadaten, die entscheidend für die Überprüfung der Authentizität der Inhalte ist, die wir erhalten – erklärt Oslić den Prüfprozess bei Croatia und LAQO Versicherung.

Bei Triglav sind sie sich einig, dass neben der visuellen Analyse das Studium der technischen Eigenschaften von Fotografien, wie Auflösung, Dateigröße und Metadaten, ein Faktor ist, der darauf hinweisen kann, ob das Bild zuvor bearbeitet wurde oder nicht.

– Zum Beispiel können Metadaten, die Informationen über das Gerät enthalten, mit dem das Bild aufgenommen wurde, oder die Zeit, zu der das Foto gemacht wurde, auch nützliche Hinweise liefern. Ein konkretes Beispiel, bei dem unsere Überprüfungsmethode entscheidend war, war ein Fall, in dem eines der eingereichten Fotos eine signifikant größere Größe und Auflösung im Vergleich zu den anderen hatte. Eine solche Inkonsistenz deutet oft darauf hin, dass das Bild nicht original ist, sondern möglicherweise mit einer anderen Technologie bearbeitet oder generiert wurde – merkt Gruja an.

Nichts ohne Menschen

Es ist daher klar, dass sich mit der Entwicklung der KI die Spielregeln in vielen Branchen ändern. Für Versicherer ist die Frage nicht, ob die Anzahl der Betrügereien zunehmen wird, sondern wie sorgfältig sie auf Betrugsversuche reagieren werden.

– Mit dem Einsatz neuer Werkzeuge werden Versuche der Fälschung auf den ersten Blick fast unkenntlich, weshalb unsere Gutachter in ihren Analysen vorsichtiger und präziser sein müssen. Schäden können auf dem Bild sehr real aussehen, aber mit guter Erfahrung und technischen Werkzeugen können wir kleine Inkonsistenzen erkennen, die auf Manipulation hinweisen – glaubt Gruja.

Oslić fügt hinzu, dass es heute eine Reihe von Werkzeugen gibt, die erkennen können, ob ein Foto bearbeitet wurde, entweder mit klassischer Software oder durch KI. Er bestätigt jedoch, dass die Erfahrung ihrer Gutachter ebenfalls entscheidend ist, da sie Manipulationen anhand spezifischer Indikatoren erkennen können.