Том Круз нарешті завів аккаунт у TikTok. Там він грає в гольф, показує фокуси з монеткою і загалом веде себе як типовий Том Круз. Все виглядає дуже природно — зовнішність актора, голос і його фірмовий сміх.
Але аккаунт deeptomcruise — це не реальний аккаунт, насправді це робота бельгійського фахівця з візуальних ефектів Кріса Уме. Він вже набрав понад 600 тисяч підписників. В «ілюзії обману» також взяв участь Майлз Фішер — актор, який і раніше успішно пародіював Круза. Уме поєднав нові deepfake-алгоритми з відкритих джерел і класичні інструменти відеомонтажу, добившись в результаті максимальної правдоподібності.
Після того, як ролики завірусилися, Кріс відзняв відео, продемонструвавши можливості нейромережі у створенні deepfake. Цей кейс вкотре нагадує: майбутнє вже тут. З усіма потенційними наслідками.
Отож, що таке deepfake? Це технологія на базі AI, яка може замінити обличчя будь-якої людини на відео на лице іншої, або наприклад озвучити будь-який текст вашим голосом.
У Китаї навіть був скандал про діпфейки і серіал. Студія, що знімала його, прийняла рішення повністю замінити акторський склад… але не в класичному розумінні, а просто за допомогою технологій — замінивши їх лиця на лиця інших акторів. Серіал вийшов в ефір. Непоганий та ніби безневинний приклад. Але очевидно, що коли з’являються такі технолонії — відразу виникають можливості використовувати їх в не найблагородніших цілях.
Перші погані наслідки навколо deepfake почали виникати навколо порно. За допомогою deepfake лиця різних celebrities почали монтувати та використовувати в роликах для дорослих. Дуже популярна (недовгий час) апка, яка дозволяла тобі «побачити» себе в старості — це невинна іграшка, в порівнянні з додатком, який дозволяє «роздягнути» будь-яку людину, просто завантаживши її фото.
Також є інші відомі приклади deepfake:
• Ролик від імені Джона Сноу з «Гри престолів», в якому він просить вибачення в глядачів за погане завершення останнього сезону.
• Відео з Цукербергом після скандалів Facebook з Cambridge Analytica, де Марк говорить приблизно наступне: «Уявіть лише на секунду, що було б, якби одна людина мала повний контроль над вкраденими персональними даними мільярдів людей».
• «Промова» Барака Обами, в якій він говорить: «Трамп — повне лайне».
Технологія вже зараз на такому рівні, що для звичайних людей вже майже неможливо визначити, чи це фейк. Зараз deepfake можна легко використовувати для маніпуляцій в ЗМІ, для бруду у бік публічних персон, для махінацій з промовами політиків.
Поки закони для регулювання потенційних проблем від наслідків цієї технології недостатньо сформовані, хочa Facebook, Reddit і Twitter, стверджують, що видаляють такі відео/аудіо.
З одного боку, це дуже цікава технологія, з іншої — досить небезпечна, особливо в контексті політичних маніпуляцій та пропаганди. В майбутньому deepfake ставатиме лише популярнішим, а це означає, що нам потрібно ще більш прискіпливо ставитись до перевірки інформації, яку ми споживаємо та поширюємо.
