فصلنامه علمی رسانه‌های دیداری و شنیداری

فصلنامه علمی رسانه‌های دیداری و شنیداری

ظرفیت ‫ها و چالش ‫های استفاده از جعل عمیق در صنعت فیلم سازی با تأکید بر الزامات اخلاقی آن

نوع مقاله : مقاله پژوهشی

نویسندگان
یوسف خجیر 1
سمیه رسولی 2
1 دانشیار، گروه ارتباطات اجتماعی، دانشکده فرهنگ و ارتباطات، دانشگاه بین المللی سوره، تهران، ایران
2 دانشجوی کارشناسی ارشد vfx دانشگاه بین المللی سوره (دانشکده هنر سوره)
10.22085/javm.2025.493170.2258
چکیده
استفاده از ظرفیت‫های هوش مصنوعی در فیلمسازی باعث تحولات فنی و محتوایی در این صنعت شده است. یکی از ابزارهای برجسته در این حوزه، جعل عمیق است که با استفاده از الگوریتم‌ های یادگیری عمیق امکان بازآفرینی و تغییر چهره ‫ها و صداها به‌ صورت واقع‌گرایانه را فراهم ‌آورده است. این پژوهش با هدف شناسایی ظرفیت‫ها و چالش‫های ابزار جعل عمیق در فیلم‫سازی، درصدد ارائه یکسری الزامات اخلاقی در استفاده از این ابزار است. روش این پژوهش مرور سیستماتیک داده‫ها و ابزار گردآوری اطلاعات تکنیک فیش برداری تحلیلی و ابزار پردازش داده‫ها کدگذاری مفهومی کینگ (1998) است. مقاله‫های مورد پژوهش با شیوه نمونه‫گیری هدفمند انتخاب شده‫ اند.قابلیت اعتماد از طریق فن مقایسه دائم بررسی شده است. یافته‫ها بیانگر این است که مهمترین ظرفیت استفاده از جعل عمیق در فیلم‫سازی بهبود جلوه‌های بصری، تولید محتوا و خلق شخصیت‌های مجازی، تقویت کیفیت ویدئو، نوآوری در فیلمنامه ‌نویسی، کاهش هزینه‌ها و افزایش خلاقیت و مهمترین چالش نقض حریم خصوصی، جعل هویت افراد، گمراه کردن مخاطب از طریق اخبار جعلی و سوءاستفاده‌های سیاسی،تهدید اشتغال صنعت فیلم و تغییر مرزهای واقعیت و تخیل است. همچنین یافته‫ها بیانگر این هستند که برای استفاده از جعل عمیق در فیلم‫سازی باید به الزامات اخلاقی چون پرهیز از سوگیری الگوریتمی، رعایت حریم خصوصی و حقوق افراد، رعایت عدالت و عدم تبعیض، رعایت اخلاق هوش مصنوعی، پایبندی به شفافیت و صحت داده‫ها، افزایش آگاهی عمومی، رعایت استانداردهای اخلاقی و اخلاق اسلامی، مسئولیت‌پذیری در برابر پیامدهای استفاده از هوش مصنوعی و جلوگیری از نشر اطلاعات نادرست توجه ویژه کرد.
کلیدواژه‌ها
فیلم‫سازی
هوش مصنوعی
جعل عمیق
ظرفیت‫ها
چالش‫ها
الزامات اخلاقی

عنوان مقاله English

Capacities and Challenges of Deepfake Usage in the Film Industry, with Emphasis on its Ethical Requirements

نویسندگان English

yosef khojir 1
Somayeh Rasouli 2
1 Associate Professor, Department of Social Communication, Faculty of Culture and Communication, Soore International University, Tehran, Iran
2 M.A. student in Visual Effects at the International University of Sooreh (Faculty of Art)
چکیده English

The utilization of artificial intelligence capabilities in filmmaking has led to technical and content-related transformations within the industry. One of the prominent tools in this area is deepfake technology, which leverages deep learning algorithms to enable the realistic recreation and alteration of faces and voices. This research aims to identify the opportunities and challenges of deepfake technology in filmmaking, and seeks to provide a set of ethical requirements for its use. The research method is a systematic review of data, and the information gathering technique is analytical note-taking. The data processing tool is King's (1998) thematic coding. The research articles were selected using purposive sampling. Reliability was assessed through the constant comparative method. The findings indicate that the most significant potentials of using deepfakes in filmmaking are improving visual effects, content production and creation of virtual characters, enhancing video quality, innovation in screenwriting, reducing costs, and increasing creativity. The most significant challenges are privacy violations, identity theft, misleading audiences through fake news and political misuse, threatening employment in the film industry, and blurring the lines between reality and fiction. Furthermore, the findings indicate that the ethical requirements for using deepfakes in filmmaking should include avoiding algorithmic bias, respecting individual privacy and rights, upholding justice and non-discrimination, adhering to AI ethics, committing to transparency and data accuracy, raising public awareness, observing ethical and Islamic ethical standards, taking responsibility for the consequences of using AI, and preventing the dissemination of misinformation.

کلیدواژه‌ها English

Filmmaking
Artificial Intelligence
Deepfake
Capabilities
Challenges
Ethical Considerations
آقاجانی، افشین (1402). «میزان آگاهی جامعه ایران از دیپ‌فیک و تأثیرات آن بر حوزه‌های مختلف»، فصلنامه پژوهش‌های اجتماعی، 24(3)، 50-65.
اسماعیلی‌زندی، عارف (1402). «شناسایی ویدئوهای دیپ‌فیک با استفاده از یادگیری عمیق»، مجله هوش مصنوعی و کاربردها، 8(2)، 40-55.
بندر، حیدر (1402). «تشخیص جعل عمیق در تصاویر با استفاده از بهینه‌سازی ژنتیک»، فصلنامه فناوری‌های پیشرفته، 10(3)، 35-50.
بنی‌اردلان، اسماعیل (1389). «روش‌های ترویج اخلاق اسلامی در سینما و تلویزیون و تأثیر آن بر جامعه»، پژوهش‌های اسلامی، 18(4)، 45-70.
جعفری، پویا (1399). «مدیریت چالش‌های امنیتی دیپ‌فیک»، فصلنامه امنیت سایبری، 7(1)، 75-90.
حاجیان، مرجانه (1401). «چالش‌های اخلاقی هوش مصنوعی و دیدگاه ملاصدرا درباره عقل عملی و نظری»، مجله فلسفه و اخلاق اسلامی، 10(2)، 35-50.
ذکایی، محمدسعید؛ و حسنی، محمدحسین (1396). «شبکه‌های اجتماعی مجازی و سبک زندگی جوانان، فراتحلیل پژوهش‌های پیشین»، فصلنامه راهبرد اجتماعی فرهنگی،  6، (22)، 7 – 25.
علی عبدالزهره، محسن (1401). «چالش‌های مرتبط با شناسایی ویدئوهای دیپ‌فیک»، فصلنامه هوش مصنوعی کاربردی، 9(3)، 100-115.
علی قاسمیان، احمد (1402). «سیاست‌های کیفری مرتبط با فناوری دیپ‌فیک»، فصلنامه مطالعات حقوقی، 11(1)، 25-40.
فرتوت، فاطمه (1401). «چالش‌های اخلاقی هوش مصنوعی و لزوم رعایت حقوق بشر»، مجله حقوق و اخلاق فناوری، 9(1)، 50-65.
محمدی‌راد، یگانه (1402). «تأثیر هوش مصنوعی بر حسابرسی مبتنی بر اخلاق»، مجله مطالعات حسابداری، 11(1)، 25-40.
مرادی، مظفر (1402). «بررسی قابلیت‌های هوش مصنوعی در دستگاه قضا»، فصلنامه حقوق و فناوری، 12(2)، 80-95.
مظهر، سید فاطمه (1401). «روش‌های تشخیص جعل ویدئو با استفاده از اطلاعات فریم‌ها»، مجله بینایی رایانه، 7(4)، 65-80.
 
Allen, C., Wallach, W., & Smit, I. (2006). Why machine ethics? IEEE Intelligent Systems, 21(4): 12-17.
Doi: 10.1109/MIS.2006.83
 
Bengio, Y. (2009). Learning Deep Architectures for AI. Foundations and Trends in Machine Learning, 2(1):45-51.
DOI: 10.1561/2200000006
 
Bostrom, N., & Yudkowsky, E. (2018). The ethics of artificial intelligence. Artificial intelligence safety and security, 23(4):57-69.
Doi: 10.1201/9781351251389-4
 
Beauchamp, T. L, Childress, J. F. (1999). Principles of biomedical ethics. Edicoes Loyola. Emergency Medicine Clinics of North America, 17(2):283-306.
 
Bentham, J. (1789). From an Introduction to the Principles of Morals and Legislation. Printed in the Year 1780, and Now First Published. Literature and Philosophy in Nineteenth Century British Culture, Routledge: 261-268.
 
Chesney, B, & Citron, D. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. Calif. L. Rev: 107- 109.
 
Chesney, R., & Citron, D. K. (2019). Deep fakes and the New Disinformation War: The Coming Age of Post-Truth Geopolitics. Foreign Affairs, 98(2): 147–157.
 
De Ruiter, A. (2021). The distinct wrong of deepfakes. Philosophy & Technology, 34(4): 1311-1332.
Doi:10.1007/s13347-021-00459-2
 
Diakopoulos, N., & Johnson, D. (2021). Anticipating and addressing the ethical implications of deepfakes in the context of elections. New media & society, 23(7): 2072-2098.
Doi: 10.1177/14614448209258
 
 
Esezoobo, S. O, & Braimoh, J. (2024). Integrating Legal, Ethical, and Technological Strategies to Mitigate AI Deepfake Risks through Strategic Communication. Valley International Journal Digital Library,43(3): 914-928.
DOI:10.18535/ijsrm/v11i08.ec02
 
Gilligan, C. (1993). In a different voice: Psychological theory and women’s development. Harvard university press.
 
James, G, Witten, D, Hastie, T & Tibshirani, T. (2013). An introduction to statistical learning. New York:Springer.
DOI:10.1007/978-1-0716-1418-1
 
Huang, C., Zhang, Z., Mao, B., & Yao, X. (2022). An overview of artificial intelligence ethics. IEEE Transactions on Artificial Intelligence, 4(4), 799-819.
Doi:10.1109/TAI.2022.3194503
 
Kant, I. (1785). Groundwork of the Metaphysics of Morals. New Haven: Sage.
 
Lee, D. (2024). Deepfakes in documentary film production: images of deception in the representation of the real, Studies in Documentary Film
18(2): 108-129.
 
Liu, X., Pan, H. (2022). The path of film and television animation creation using virtual reality technology under the artificial intelligence. Scientific Programming, 2022(1), 171- 229.
Doi: 10.1155/2022/1712929op
 
Mahmud, Bahar Uddin & Sharmin, Afsana (2023). Deep Insights of Deepfake Technology: A Review, Dujase, 5(1): 13-23.
 
Meskys, E, Kalpokiene, J, Jurcys, P., & Liaudanskas, A. (2020). Regulating deep fakes: legal and ethical considerations. Journal of Intellectual Property Law & Practice, 15(1), 24-31.
Doi:10.1093/jiplp/jpz167
 
Mill, J. S (1863). Utilitarianism, Liberty, Representative Government, 7(9).
Mitta, S & et al (2024). Virtual Illusions: Unleashing Deepfake Expertise for Enhanced Visual Effects in Film Production, publisher: IEEE.
 
Pawelec, M. (2024). Decent deepfakes? Professional deepfake developers’ ethical considerations and their governance potential. AI and Ethics, 1-26.
Doi:10.1007/s43681-024-00542-2
 
Rawls, J. (1971). A Theory of Justice. Cambridge (Mass.): Harvard University Press. Rawls A Theory of Justice.
 
Russell, S. J, & Norvig, P. (2016). Artificial intelligence: a modern approach. Pearson.
DOI:10.1016/j.artint.2011.01.005
 
Siau, K, & Wang, W. (2020). Artificial intelligence (AI) ethics: ethics of AI and ethical AI. Journal of Database Management (JDM), 31(2), 74-87.
Doi: 10.4018/JDM.2020040105
 
Tuysuz, M. K, & Kılıç, A. (2023). Analyzing the Legal and Ethical Considerations of Deepfake Technology. Interdisciplinary Studies in Society, Law, and Politics, 2(2), 4-10.
Doi: 10.61838/kman.isslp.2.2.2
 
Zuiderveen Borgesius, F. J. (2020). Strengthening legal protection against discrimination by algorithms and artificial intelligence. The International Journal of Human Rights, 24(10), 1572-1593.
Doi: 10.1080/13642987.2020.1743976