Der Schöpfer 'Diese Person existiert nicht' enthüllt die gruselige Ursprungsgeschichte seiner Site

Phillip Wang ist der 33-jährige Software-Ingenieur, der für die Erstellung der Website mit künstlicher Intelligenz verantwortlich ist Diese Person existiert nicht das ging vor kurzem viral . Jedes Mal, wenn die Seite aktualisiert wird, erstellt ein Algorithmus, der als generatives kontradiktorisches Netzwerk (GAN) bezeichnet wird (ursprünglich von Nvidia codiert), hyperrealistische Porträts vollständig gefälschter Personen.



Der Stunt wurde entwickelt, um die Aufmerksamkeit auf die immer größer werdende Fähigkeit von A.I. zu lenken, als echte Bilder zu präsentieren, die vollständig künstlich sind. Aber wie Wang erzählt Invers, Dieser Stunt hat Konsequenzen, die sich weit darüber hinaus ausbreiten, hey, sieh dir diese echt aussehende falsche Person an. In einer Gesellschaft, in der Bilder und Bilder die Standard-Ersatzprodukte für Beweise sind, können GANs - indem sie die Arbeit automatisieren, die früher mühsame Arbeit seitens der Bildgebungsexperten erforderte - bald jedem den Nachweis erbringen, dass jede vorstellbare Person etwas vorstellbares getan hat.

'Die Reaktion spricht dafür, wie viel Menschen über A.I. und sein Potenzial. '

Ich bin im Grunde an dem Punkt in meinem Leben, an dem ich zugeben werde, dass Superintelligenz real sein wird und ich mein verbleibendes Leben dafür einsetzen muss, erklärt er. Die Reaktion spricht dafür, wie viel Menschen über A.I. und sein Potenzial.



Die Seite traf einen Akkord. Der ehemalige Uber-Software-Ingenieur sagt, dass seit seiner Einführung Diese Person existiert nicht wurde ungefähr 4,2 Millionen Mal besucht, nicht schlecht für eine einmalige Website, die ursprünglich in einer geschlossenen Facebook-Gruppe veröffentlicht wurde. Wang nutzte es zunächst, um ein paar Freunde davon zu überzeugen, sich dem unabhängigen A.I. Forschung, an der er gerade arbeitet. Innerhalb eines Tages entschied er jedoch, dass ein breiteres Publikum davon profitieren könnte, das Potenzial von GANs kennenzulernen. Er sagte, die Reaktion zeige, wie wichtig es sei, die Menschen darüber zu informieren, wie diese Art von Technologie sowohl revolutionär als auch gefährlich sein könne.



Diese Menschen sind nicht real - sie wurden von unserem Generator hergestellt, der die Kontrolle über verschiedene Aspekte des Bildes ermöglicht. Nvidia / StyleGAN

Warum gefälschte Gesichter einen beängstigenden Durchbruch darstellen

Wangs Website nutzt die von Nvidia StyleGAN Algorithmus das war veröffentlicht im Dezember letzten Jahres. Seiner Ansicht nach reicht das Potenzial von hilfreich, aber banal (denken Sie: Straffung der Implantation von Zahnkronen) bis hin zu weitreichenden Möglichkeiten, um beispielsweise die Vorstellung völlig neuer Moleküle für zukünftige Medikamente zu ermöglichen. Diese revolutionäre Technologie wird aber auch Täuschung und Fehlinformationen einfacher machen als je zuvor.

Der Grund, warum die Anwendungsfälle so vielfältig sind, ist, dass es viele, viele Möglichkeiten gibt, GANs anzuwenden, die trainiert werden, indem zwei Netzwerke gegeneinander ausgespielt werden: der Generator und der Diskriminator. Der Generator erhält reale Bilder, die er so gut wie möglich nachzubilden versucht, während der Diskriminator lernt, zwischen gefälschten Bildern und Originalen zu unterscheiden. Nach Millionen von Trainingseinheiten entwickelt der Algorithmus übermenschliche Fähigkeiten zum Erstellen von Kopien der Bilder, auf denen er trainiert wurde.

'Ich hoffe nur, dass meine Demonstration das Bewusstsein schärft.'



Dies ist dieselbe Methode, mit der Deepfakes oder computergenerierte Bilder erstellt werden, die vorhandenen Bildern oder Videos überlagert sind, und die häufig verwendet werden, um gefälschte Nachrichtenerzählungen oder andere Scherze zu verbreiten.

Und während Wang von der Innovation fasziniert ist, die sie in vielen Unternehmen bringen wird, möchte er, dass die Menschen sich der möglichen Schäden, die sie verursachen könnten, bewusster werden.

Ein schändlicher Schauspieler könnte beispielsweise ein von GANs erstelltes Video oder Bild verbreiten, das ein falsches Ereignis darstellt, um Unruhen, Proteste oder andere potenziell gewalttätige Reaktionen online auszulösen.



Da der Prozess vollständig automatisiert ist, müsste nur jemand auf eine Reihe von Grafikprozessoren (GPUs) oder Grafikkarten zugreifen, die maschinelles Lernen ermöglichen, und auf einen Datensatz mit Bildern, um Fälschungen wie am Schnürchen auszulösen.

Während StyleGANs längerfristig in der Lage sind, Standbilder von Menschen zu erstellen, die es nie gab, ist es nur ein paar Schritte weiter, diese Bilder zum Sprechen und Bewegen zu bringen. Glücklicherweise stellt Wang fest, dass eine einfache Information über GANs die Menschen weniger anfällig dafür macht, sich von ihnen täuschen zu lassen. Ein erhöhtes Bewusstsein wird es uns allen leichter machen, die Verbesserungen an 3D-Grafiken und Medizin zu genießen, die StyleGANs wahrscheinlich bewirken werden.

Ich hoffe nur, dass meine Demonstration das Bewusstsein schärft. Diejenigen, die es nicht wissen, sind am anfälligsten für diese Technologie, sagte Wang. Auf der anderen Seite ist A.I. wird wirklich viel Gutes auf diese Welt bringen.

E-Mail an den Autor: danny.paez