UPC: Verbesserung des Algorithmus zum Erkennen falscher Bilder

In diesem Stand Montserrat Rigall, Journalist von RTVE, erklärt, wie UPC (Polytechnische Universität Katalonien) Er arbeitet daran, die Erkennung falscher Bilder zu verbessern, indem er einen effektiven Algorithmus verbessert, da vorhandene unbefriedigende Ergebnisse erzielen.

Während des gesamten Projekts Iveres Wir konnten überprüfen, wie einige der Mechanismen zur Erzeugung falscher Bilder, die auf Diffusionsalgorithmen basieren, immer noch ziemlich schwer zu erkennen sind. Daher die Bedeutung der Erkennung von Erkennung von falsche Bilder.

Es gibt viele Techniken für jeden Benutzer über Websites und Apps für Bildgenerierung wie z. B. Von 2, Stabile Übertragung, Midjourney, Bing (From-3) von Offene AI sehr häufig verwendet, um falsche Nachrichten zu veranschaulichen.

Laut mehreren Experten, die von der Katalonien der Polytechnischen Universität von Katalonien konsultiert wurden, sind diese Algorithmen viel neuer und obwohl es einige Vorschläge für die automatische Erkennung dieser Art von Bildern gibt, „sind seine Ergebnisse noch nicht vollständig zufriedenstellend“, sagt der Computeringenieur Dr. Francesc Tarrés.

Neue Algorithmen

Aus der Expertengruppe des UPC in Barcelona arbeiten sie daher an der Forschung und Entwicklung neuer Algorithmen. Das Ziel ist, dass sie das zulassen Automatische und zuverlässige Erkennung dieser Art von Bildern, die normalerweise aus einem Text erzeugt werden, der sie definiert. Dies ist derzeit die Arbeit, für die sie die meiste Zeit widmen.

Im Vormarsch in Richtung a falsche Bilderkennung Viele Versuche, mehr oder weniger, scheiterten mit einer ziemlich einstimmigen Schlussfolgerung. Die Experten sagen, wenn ein künstliches Bild wieder degeneriert und erzeugt wird, erhalten wir ein sehr ähnliches Bild wie das Original. Wenn wir dagegen ein natürliches Bild degenerieren und versuchen, es durch Diffusionalgorithmen zu erzeugen, wurde das Bild erhalten unterscheidet sich erheblich vom Start.

Natürliche Bilder diskriminieren

Der Fehler in der Wiederaufbau Es ermöglicht in gewissem Maße die natürlichen Bilder künstlicher. Der Fehler ist großartig, wenn das Bild natürlich und klein ist, wenn es von a beginnt Bild erzeugt durch künstliche Intelligenzalgorithmen.

Dies ist im Wesentlichen eine Idee, bei der verschiedene Forschungslabors mit akzeptablen Ergebnissen bearbeitet wurden Nicht völlig zufriedenstellend. Die verschiedenen Algorithmen schlagen unterschiedliche Verschlechterungs- und Erzeugungsstrategien vor.

Erste Forschungslinie

In der ersten Zeile a Inhaltsüberwachungssystem Dies erleichtert und automatisiert die Aufgabe, verschiedene verdächtige Kanäle der Verbreitung falscher Nachrichten international zu überwachen.

A Inhaltsüberwachungssystem was erleichtert und automatisiert Die Aufgabe, anders zu überwachen Verdächtige Kanäle der Verbreitung falscher Nachrichten international.

Im Wesentlichen ist es ein Software, die den Inhalt der YouTube- und Tiktok -Kanäle überwacht Das vom Benutzer ausgewählte und diese 30 Minuten laden Sie die Videos der neuen Inhalte herunter, die auf den Kanal hochgeladen wurden. Sobald das Video heruntergeladen wurde, a Audio -Transkription in seiner Originalversion, wo mehr als 90 Einstiegssprachen zugelassen werden und anschließend eine Übersetzung in Spanisch und Englisch. Mit diesem Mechanismus a eigene Datenbank in dem der Inhalt der Kanäle in Audio-, Video- und Textformat verfügbar ist. Dies sind Audio-, Bild-, Video- und Textinhalte, die später verwendet werden, um die Wahrscheinlichkeit zu bewerten, dass die Nachrichten falsch sind.

Dieser erste Teil der Entwicklung befindet sich in einer sehr fortgeschrittenen Entwicklung der Entwicklung und ist bereits seine Funktionalität testen Für verschiedene Arbeitsteams in RTVE, EFE, UAB usw.

Fälschungsgenerierungskategorien

Eine zweite Arbeitslinie in der URS -Gruppe des UPC ist die Entwicklung und Algorithmenentwicklung Zur Erkennung von Bildern oder Videos, die künstlich erzeugt werden. In diesem Sinne wurden die Fakes -Generierungsalgorithmen in verschiedenen Kategorien klassifiziert.

Als Beispiele für diese Kategorien hätten wir das Bildmanipulation durch Algorithmen der Bildbehandlung die Generierung künstlicher Gesichter, die Generation von Neue Attribute (Brille, Bart, Haarfärbemittel usw.), Gesichtsaustausch Zwischen einem Schauspieler und einem berühmten Charakter (Gesichttausch).

Wählen Sie die beste Software

Dies sind Techniken, die seit vielen Jahren eingerichtet sind und für die es mehrere Tools gibt, die sehr bewährt sind, beide für die Erzeugung von Bildern wie für ihre Erkennung. In diesem Fall war unsere Rolle innerhalb des Projekts Analysieren Sie alle diese MethodenProbieren Sie sie in verschiedenen Datenbanken aus und wählen Sie die von ihnen bereitgestellten Software -Tools aus und implementieren Sie sie Bessere Ergebnisse.

Diese Tools wurden in die in die Einbeziehung eingebaut Überwachungsanwendung Um den Nachrichtenanalysten zu erleichtern Überprüfen Sie, ob Bilder oder Videos Das scheint wahrscheinlich künstlich erzeugt worden zu sein.