طالما كانت شبكة الإنترنت موجودة، فقد ظلت هذه النصيحة صحيحة: “لا تصدق كل ما تراه على الإنترنت”. سواء أكان ذلك مدونة شخصية، أو تغريدة، أو مقطع فيديو على YouTube، أو TikTok، يمكن لأي شخص أن يقول أي شيء هنا، ومن الصعب معرفة ما إذا كان على حق أم لا (أو حتى يقول الحقيقة).
لكننا عند نقطة انعطاف في مجال محو الأمية عبر الإنترنت: فقد وصل الذكاء الاصطناعي التوليدي إلى مكان مخيف، مع وجود تكنولوجيا جيدة بما يكفي لتقليد أشباه المشاهير وجعل هؤلاء “المستنسخين” يقولون ما يريدون. بالنسبة لأولئك الذين يعرفون ذلك، قد لا تكون هذه التزييفات العميقة مقنعة بعد، ولكن ماذا عن مستخدم وسائل التواصل الاجتماعي العادي؟ يبدو أننا نقترب بسرعة من النقطة التي سيبدأ فيها عامة الناس في الاعتقاد بأن مقاطع الفيديو الاحتيالية هذه حقيقية، وهذه فكرة مخيفة.
هناك ثلاثة أمثلة بارزة على ذلك فقط من الأسبوع الماضي أو نحو ذلك. الأول هو توم هانكس: نشر الممثل لقطة شاشة على حسابه على إنستغرام من مقطع فيديو يروج لـ “خطة علاج الأسنان”، مع متحدث باسم توم هانكس إذا تم إعادة تركيب أسنانه. ولا يبدو أن الفيديو نفسه متاح للعامة، ولم يشاركه هانكس أو يشاركه اسم الشركة التي تروج له. لكن الافتراض هو أن شركة أو شخصًا ما قام بتزييف عميق لتوم هانكس لبيع أحد منتجات طب الأسنان. كما ذكرت، بإلقاء نظرة فاحصة على الصورة، يمكنك بالفعل معرفة أن هناك شيئًا “غير طبيعي” في وجهه، وإذا تمكنا من مشاهدة الفيديو، فمن المحتمل أن يكون للحركة مظهر الوادي المتصلب والغريب العديد من التزييف العميق للذكاء الاصطناعي موجود.
شاهد هذا المنشور على Instagram
لكن السيد هانكس لم يكن الشخص المشهور الوحيد هذا الأسبوع الذي تعامل مع قضية التزييف العميق. نشرت جايل كينغ، إحدى مذيعات برنامج CBS Mornings، تزييفًا عميقًا على حسابها على Instagram، مشيرة إلى أن الأشخاص يواصلون إرسال الفيديو لها، وأنها لا علاقة لها به. هذه المرة، شاركت الفيديو الأصلي الذي يستند إليه التزييف العميق، وهو مقطع فيديو بريء لكينغ وهو يناقش وجود بروس سبرينغستين في برنامجها:
شاهد هذا المنشور على Instagram
سيتمكن المراقبون المتحمسون من معرفة أن الفيديو الأول مزيف: حركات الشفاه لا تتطابق مع الصوت، وعلى الرغم من أن الصوت يشبه صوت كينغ، إلا أنه قاسٍ للغاية، كما لو كانت تتظاهر بأنها ممثلة سيئة أثناء قراءة مقطع فيديو. النصي. أنا متأكد من أن أيًا منا مدرك لهذه القيود المفروضة على التزييف العميق والذكاء الاصطناعي التوليدي سيلاحظ العلامات الواضحة على الفور، لكنني لست مقتنعًا بأن الجميع سيرون هذا على أنه مزيف على الفور.
ثالثًا، الإحساس بالإنترنت هو السيد Beast حالياً ينتشر على نطاق واسع بسبب إعلان مزيف عميق يتم عرضه لمستخدمي TikTok، بما فيهم أنا. وفيه “السيد. “Beast” يهنئ المشاهد لكونه من بين 10000 مستخدم تم اختيارهم للفوز بجهاز iPhone 15 Pro مقابل دولارين فقط. كنت محظوظا!
يعد الفيديو المعني واحدًا من أفضل الفيديوهات التي رأيتها، على الرغم من أنه يحتوي أيضًا على مشكلات واضحة. أيًا كان من صنع هذا الشخص، فقد حرص على جعل السيد بيست يبدو أكثر تعبيرًا أثناء حديثه، في محاولة لجعل التفاعل برمته يبدو أكثر طبيعية. أعتقد أن هذا يمكن أن يكون فعالاً بالنسبة للبعض، ولكن مرة أخرى، ليس بنسبة 100٪. إن مشاهدة الفيديو مع العلم بأنه مزيف يظهر كل العيوب على السطح.
ربما تم حذف التغريدة
حتى لو كنت تعتقد أنه من الواضح أن هذه الأمثلة مزيفة، كما يقول ماركيز براونلي، هذا هو أسوأ ما ستكون عليه هذه التكنولوجيا. سوف تستمر تقنية التزييف العميق في التحسن، بهدف تحقيق الهدف النهائي المتمثل في عدم إمكانية تمييزها عن الفيديو الحقيقي.
إذا كنت قد استمتعت بأي من أغلفة أغاني الذكاء الاصطناعي التي انتشرت عبر الإنترنت، فأنت تعرف مدى جودة التكنولوجيا. الممثل الصوتي لـ Plankton من سبونجبوب يجب أن نشعر بالقلق بشأن مدى جودة هذه الأغطية، مثل غلاف العوالق بدأ'. ربما مات فرانك سيناترا عندما كانت دوا ليبا في الثانية من عمرها، لكن غلاف الذكاء الاصطناعي هذا له وهو يغني في الهواء هو بوب.
ويمكن لهذه التقنية أيضًا ترجمة خطابك والدبلجة عليه في الوقت الفعلي، في صوتك. وعلى الرغم من وجود مجموعة كبيرة من التطبيقات التي تتمتع بهذه القدرة، حتى Spotify يختبره لترجمة البودكاست بأصوات المضيفين.
في هذه المرحلة، أفضل التزييف العميق هو الصوت فقط، وحتى ذلك الحين لا تزال تواجه مشاكل في الدقة. ولكن ماذا يحدث عندما يتمكن ممثل سيء من تقديم إعلان مزيف للسيد بيست يقع فيه معظم الناس؟ تخيل أن السيد Beast مقنع حقًا وهو يقول مباشرةً للمشجعين الشباب وذوي التأثر: “كل ما عليك فعله للمشاركة في هديتي هو إدخال معلوماتك المصرفية، حتى أتمكن من تحويل المكاسب إليك مباشرةً”. ربما ستقام “المسابقة” داخل “السيد. تطبيق Beast، الذي يقوم بالفعل بتثبيت البرامج الضارة على جهازك.
وبطبيعة الحال، هناك سيناريوهات أكثر رعبا يجب أخذها في الاعتبار. نحن نقترب من الانتخابات الرئاسية العام المقبل. ما مدى جودة تقنية التزييف العميق بحلول نوفمبر 2024؟ هل سيفتح شخص ما تطبيق TikTok قبل التوجه إلى صناديق الاقتراع لمشاهدة فيديو مزيف لجو بايدن وهو يقول إن هدفه النهائي هو سجن أعدائه السياسيين؟ أو ربما أحد دونالد ترامب يطلب من أنصاره أن يظهروا مسلحين إلى صناديق الاقتراع؟
كن مجتهدًا عند مشاهدة مقاطع الفيديو عبر الإنترنت
تحتاج شركات وسائل التواصل الاجتماعي إلى أن تكون أكثر استباقية بشأن مهاجمة مقاطع الفيديو المزيفة هذه قبل أن تنتشر إلى الآخرين، ولكن لدينا أيضًا دور نلعبه في كل هذا. نحن بحاجة إلى توخي الحذر، الآن أكثر من أي وقت مضى، عند التمرير والنقر بشكل عرضي على شبكة الإنترنت الكبيرة هذه الخاصة بنا. إن مجرد رؤيتك لمقطع فيديو لـ “أحد المشاهير” وهو يقول شيئًا ما، أو يؤيد منتجًا ما، لا يجعله حقيقيًا – ليس بعد الآن. تحقق من الحساب الذي تم النشر إليه بعناية: إذا كان من المفترض أن تكون الشخصية الحقيقية، فيجب التحقق من حسابهم (ما لم نتحدث عن منصة عديمة الفائدة مثل X، وفي هذه الحالة يجب التعامل مع جميع المنشورات على أنها كاذبة ما لم يثبت خلاف ذلك بشكل لا لبس فيه).
بينما ننتظر ظهور التزييف العميق حقًا حسنًا، لا يزال هناك الكثير من العلامات الحمراء التي تخبرك عندما يكون هناك شيء غير شرعي. سوف تبدو حركات العين والفم غريبة، على سبيل المثال. انظر إلى فيديو Mr. Beast: بينما بذلوا قصارى جهدهم لجعله معبرًا، ظلت عيناه شاغرتين تمامًا في النصف الأول من المقطع. وعلى الرغم من أنها تطابقت مع حركات الشفاه بشكل جيد، فإن العديد من التزييفات العميقة ليست جيدة في ذلك حتى الآن.
تظهر العديد من مقاطع الفيديو هذه بجودة سيئة جدًا أيضًا. وذلك لأن زيادة الدقة تكشف عن مدى سوء الفيديو. تعتمد تقنية Deepfakes على مقطع فيديو حقيقي لشخص ما، سواء كان من المشاهير أم لا، ثم تقوم بتراكب وجه المشاهير فوق هذا الفيديو والتلاعب به حسب رغبتهم. من الصعب جدًا القيام بذلك بدقة عالية دون حدوث مشكلات في المزج، لذلك ترى الطبقات تقتطع داخل وخارج بعضها البعض.
جرعة صحية من الشك تقطع شوطا طويلا على شبكة الإنترنت. الآن وقد تولى الذكاء الاصطناعي الإنتاجي زمام الأمور، قم بزيادة الشكوك قدر الإمكان.
