Wissenschaftler haben einen echten „Unsichtbarkeitsumhang“ entwickelt, der trickst Kameras mit künstlicher Intelligenz (KI). und hindert sie daran, Menschen zu erkennen.

Forscher an der Universität von Maryland haben einen Pullover geschaffen, der KI-Systeme der menschlichen Erkennung „durchbricht“ und eine Individual vor KI-Kameras „unsichtbar“ macht.

„Dieser stylische Pullover ist eine großartige Möglichkeit, sich diesen Winter heat zu halten“, schreiben die Forscher weiter Web site der UMD-Abteilung für Informatik. „Es verfügt über ein wasserdichtes Mikrofleece-Futter, einen modernen Schnitt und Anti-KI-Muster – die helfen, sich vor Objektdetektoren zu verstecken.“

Die Forscher bemerken: „In unserer Demonstration conflict der YOLOv2-Detektor in der Lage, den Detektor mit einem Muster zu täuschen, das auf einem COCO-Datensatz mit einem sorgfältig konstruierten Ziel trainiert wurde.“

Ein tragbarer „Unsichtbarkeits“-Umhang

Entsprechend Gagadget.combegannen die Wissenschaftler, die mit Fb AI gearbeitet haben, mit dem ursprünglichen Ziel, maschinelle Lernsysteme auf Schwachstellen zu testen.

Das Ergebnis conflict jedoch ein bunter Druck auf Kleidung, den KI-Kameras nicht sehen können und der eine Individual aus dem Sichtfeld einer Maschine löscht.

In einem Papiererklärt das Wissenschaftlerteam, dass sich die meisten Forschungsarbeiten zu realen gegnerischen Angriffen auf KI-Objektdetektoren auf Klassifikatoren konzentriert haben, die einem gesamten Bild ein ganzheitliches Etikett zuweisen, und nicht auf Detektoren, die Objekte innerhalb eines Bildes lokalisieren.

KI-Detektoren arbeiten, indem sie Tausende von „Priores“ (potenzielle Begrenzungsrahmen) innerhalb des Bildes mit unterschiedlichen Positionen, Größen und Seitenverhältnissen berücksichtigen.

Um einen Objektdetektor zu täuschen, muss ein gegnerisches Beispiel jeden Prior im Bild täuschen, was viel schwieriger ist, als die einzelne Ausgabe eines Klassifikators zu täuschen.

Die Forscher erklärten, dass sie den SOCO-Datensatz verwendet haben, auf dem der Laptop-Imaginative and prescient-Algorithmus YOLOv2 trainiert wird, und ein Muster identifiziert haben, das hilft, eine Individual zu erkennen.

Das Workforce erstellte dann ein entgegengesetztes Muster und verwandelte es in ein Bild – einen Druck auf einem Pullover.

Dadurch wird der Pullover zu einem tragbaren „Unsichtbarkeitsmantel“, der den Träger für Detektoren unsichtbar macht und die Individual im Pullover sich vor Erkennungssystemen verstecken kann.

Für alle, die hoffen, wirklich unsichtbar zu werden, gibt es jedoch einen Nachteil. Hacker berichtet, dass die Pullover in einem Wearable-Take a look at nur eine Erfolgsquote von etwa 50 Prozent erreichten.

Weitere Informationen zu dem Projekt sind auf der College of Maryland erhältlich Webseitemit einem Vordruck der Papier verfügbar auf Cornells arXiv-Server unter Open-Entry-Bedingungen.


Bildnachweis: Alle Fotos von der Universität von Maryland.



tags :

Latest Blog