مطالعات فقه و حقوق رسانه

مطالعات فقه و حقوق رسانه

کودکان و هوش مصنوعی: تنظیم‌گری «الگوریتم‌های توصیه‌گر» با رویکرد تطبیقی

نوع مقاله : مقاله پژوهشی

نویسندگان
1 دانش آموخته دکتری تخصصی مدیریت تکنولوژی، دانشگاه تهران،‌ تهران، ایران.
2 دانش آموخته کارشناسی ارشد حقوق خانواده، دانشکده غیرانتفاعی رفاه،‌ تهران، ایران.
10.22034/jlsm.2026.2072599.1052
چکیده
تحول دیجیتال، ماهیت مخاطرات پیش‌روی کودکان را از آسیب‌های محتوایی به آسیب‌های الگوریتمی تغییر داده است؛ الگوواره‌ای که چهارچوب‌های حقوقی سنتی را به چالش می‌کشد. این پژوهش با تمرکز بر «الگوریتم‌های توصیه‌گر» در سکو(پلتفرم)‌های دیجیتال، نشان می‌دهد که چگونه این سیستم‌ها با اتکا به اقتصاد توجه و مهندسی رفتار، سلامت روان کودکان را هدف قرار داده و مقصد بنیادین شریعت یعنی «حفظ العقل» را به مخاطره می‌اندازند. مقاله استدلال می‌کند که نظام حقوقی ایران با اتکا به ظرفیت‌های پویای فقهی توان مواجهه با این پدیده را دارد. با ارجاع به آرای فقهای امامیه در قاعده «تسبیب»، سکو به دلیل دستکاری شناختی و فریب ساختاری (غرور)، «سبب اقوی از مباشر» شناخته می‌شود. همچنین، با کاربست کارکرد حکومتی و پیشگیرانه قاعده «لاضرر»، تکلیفی ایجابی بر سکو‌ها بار می‌گردد. درنهایت، این پژوهش با مطالعه تطبیقی قوانین پیشرو (به‌ویژه قانون خدمات دیجیتال اروپا و قانون ایمنی برخط بریتانیا)، یک چهارچوب آینده‌نگر برای ایران پیشنهاد می‌دهد که بر مفهوم «وظیفه مراقبت الگوریتمی» و الزام رویه‌ای به «ارزیابی تأثیر الگوریتمی بر کودک» استوار است تا نظارت از واکنشی پسینی به پیشگیری فعالانه ارتقا یابد.
کلیدواژه‌ها

عنوان مقاله English

Children and Artificial Intelligence: Regulating Recommender Algorithms with a Comparative Approach

نویسندگان English

Mohammad Hajali 1
Zahra Hoseinpour 2
1 Ph.D. graduate in Technology Management, University of Tehran, Tehran, Iran.
2 MA in Family Law, Refah Non-profit College,tehran,iran.
چکیده English

Digital transformation has shifted the nature of risks facing children from content-related harm to algorithmic harm, challenging traditional legal frameworks. Focusing on "Recommender Algorithms" within digital platforms, this research demonstrates how these systems, driven by the attention economy and behavioral engineering, target children's mental health and endanger the fundamental objective of Sharia, namely the "protection of the intellect" (Hifz al-Aql). The paper argues that the Iranian legal system possesses dynamic jurisprudential capacities to confront this phenomenon. Drawing on the views of Imami jurists regarding the maxim of "Tasbib" (causation), the platform is identified as the "stronger cause" due to cognitive manipulation and structural deception (Ghurur). Furthermore, applying the preventive function of the "La Darar" (no harm) maxim imposes a positive duty on platforms. Ultimately, through a comparative study of pioneering legislation (notably the EU Digital Services Act and the UK Online Safety Act), this research proposes a forward-looking framework for Iran centered on the "Algorithmic Duty of Care" and the procedural mandate of "Algorithmic Impact Assessment for Children," shifting the supervisory paradigm from reactive responses to proactive prevention.

کلیدواژه‌ها English

Children's Rights
Artificial intelligence
Recommender Algorithms
Attention Economy
Algorithmic Duty of Care
Algorithmic Impact Assessment.
1.      امیدی‌فرد، عبدالله (1385). سیری در پیشینه قاعده غرر. مجله پژوهشهای فقهی دانشگاه تهران، ۲(4 شماره پیاپی 1679).
2.      انصاری، باقر (1401). مطالعه حقوقی تبعیض الگوریتمی. دانش حقوق عمومی، ۱۱(۳۸)، ۱۴۷–۱۷۸.
3.      جلالی، حسین (1400). تبارشناسی و راهبردهای گفتمان نوآوری در حقوق اسلامی. تحقیقات حقوق خصوصی و کیفری (دانشنامه حقوق و سیاست)، ۱۷(۵۰)، ۲۹–۵۶.
4.      جوادی، علی؛ شجاعی، ستاره و ده‌بزرگی، سارا (1403). نقش سبک‌های فرزندپروری در پیش‌بینی اعتیاد به اینترنت در کودکان با اختلال نارسایی توجه/بیش‌فعالی. فصلنامه اختلال‌های هیجانی و رفتاری، دانشگاه شیراز، ۱(شماره ۱ پیاپی ۱).
5.      حسام، ابوالفضل و غلامعلی‌زاده، محمد (1402). مسئولیت مدنی بسترهای مجازی آنلاین در قبال اَعمال کاربران. فصلنامه حقوق اسلامی، پژوهشگاه فرهنگ و اندیشه اسلامی، ۲۰(۷۹)، ۱۲۷–۱۴۵.
6.      حسینی مقدم، سیدحسن؛ ایوبی، ستاره و طالقان غفاری، مهدی (1402). مسئولیت مدنیِ فروشگاه‌های اینترنتی در حقوق ایران و مطالعة تطبیقی موردی در اتحادیة اروپا. پژوهش حقوق خصوصی، ۱۲(۴۴)، ۲۵۵–۲۸۴.
7.      خوبیاری، حامد (1397). بررسی احتیاط در معنای فقهی به‌مثابه اصل زیست‌محیطی احتیاط. فصلنامه پژوهش‌های حقوق تطبیقی عدل و انصاف، ۱(۳)، ۲۴–۴۱.
8.      ذوالقدر، هدایت‌الله (1403). بررسی تطبیقی مسئولیت مدنی دسترسی‌دهندگان اینترنتی، میزبانان اینترنتی و تولیدکنندگان محتوا: مطالعه قوانین ایران و آلمان در فضای مجازی. حقوق و مطالعات نوین، ۵(3 (پیاپی 17))، ۱-۲۲.
9.      رجبی، عبداله (1403). نرم‌افزار متن‌باز؛ حقوق مالکیت فکری یا حقوق قراردادها. مجله حقوقی دادگستری، ۸۸(۱۲۶)، ۹۱–۱۱۴.
10.  رضایی، فاطمه؛ زرینی، لیلا و راعی، مسعود (1403). حقوق سلامت کودک و فضای مجازی. در سومین همایش ملی تحکیم و تعالی بنیان خانواده.
11.  شورای عالی فضای مجازی (1400). صیانت از کودکان و نوجوانان در فضای مجازی.
12.  عربیان، اصغر و موسی نتاج، عبدالرزاق (1401). مفاهیم اصلی و مبنای مسئولیت عرضه‌کنندگان کالا براساس قانون حمایت از مصرف‌کنندگان مصوب 1388 و مقایسه آن با دستورالعمل اتحادیه اروپا. فصلنامه تحقیق و توسعه در حقوق تطبیقی، ۵(۱۴)، ۱۳۲–۱۵۸.
13.  غریبه، علی؛ پناهی، هادی و پاشازاده، حسن (1399). واکاوی ماهیت نرم‌افزار الکترونیکی هوشمند نمایندگی الکترونیکی) در انعقاد قرارداد و پیامدهای اجتماعی آن. فصلنامه‌ جامعه‌شناسی سیاسی ایران، ۳(شماره ۴ پیاپی ۱۲)، ۶۶۲–۶۸۱.
14.  غلامی، رضا (1401، 21 تیر). مواجهه عقلانیت اسلامی با فناوری هوش مصنوعی. https://r-gholami.ir/?p=2790
15.  غمامی، سیدمحمدمهدی (1403). تنظیم هوش مصنوعی به‌منظور تأمین و تضمین حقوق عامه. درگاه‌های حقوق قضایی، (۱۰۸)، ۱۰۱-۱۲۹.
16.  کرمدار، کیوان (1403). مسئولیت مدنی پلتفرم‌های آنلاین در قبال محتوای منتشر شده توسط کاربران. مقاله ارائه‌شده در اولین همایش بین‌المللی ایده‌های تحول‌آفرین.
17.  مجلس شورای اسلامی (1388). قانون حمایت از حقوق مصرف کنندگان. ش. ۳۶۹۶۵/۱۳.
18.  مجلس شورای اسلامی (1399). قانون حمایت از اطفال و نوجوانان.
19.  م‍ح‍ق‍ق‌ دام‍اد، سیدم‍ص‍طف‍ی (1395). ق‍واع‍د ف‍ق‍ه‌: ب‍خ‍ش‌ م‍دن‍ی‌ (م‍ال‍ک‍ی‍ت‌ - م‍س‍ئ‍ول‍ی‍ت‌) (ویرایش ۲، ص ۳۰۱). م‍رک‍ز ن‍ش‍ر ع‍ل‍وم‌ اس‍لام‍ی‌. (نشر اثر اصلی 1363)
20.  محمدرضایی، معصومه و ریاحی، ناهید (1402). بررسی فقهی اقوی بودن سبب از مباشر در قانون مجازات اسلامی مصوب ۱۳۹۲. مقاله ارائه‌شده در اولین کنفرانس بین‌المللی پژوهش در حقوق و علوم اجتماعی.
21.  موسوی بجنوردی، محمد (1379). قواعد فقهیه (ج۱). مؤسسه تنظیم و نشر آثار امام خمینی (ره)، مؤسسه چاپ و نشر عروج.
22.   نجفیان رضوی، مهدی؛ شیخ الاسلامی، عباس و هژبر ساداتی، هانیه (1401). حقوق دفاعی متهم در پرتو موازین فقهی و بخشنامه‌های قضایی. فصلنامه فقه جزای تطبیقی، ۲(۳)، ۱–۹.
23.  هیئت وزیران (1383). آیین‌نامه اجرایی مواد (2) و (17) قانون حمایت از حقوق پدیدآورندگان نرم‌افزارهای رایانه‌ای. ج. ۲۱۱۸۵ت‌۲۶۰۸۹ه.
24.  واثقی، محسن (1402). علوم اعصاب و فناوری‌های عصبی در ترازوی حقوق بشر. دانشگاه تهران-مطالعات حقوق تطبیقی، ۱۴(۲)، ۱۰۶۹–۱۰۸۸.
25.  بجنوردی، حسن (1419ق). القواعد الفقهیة. (مهدی مهریزی و محمدحسین درایتی، محققان) قم: نشر الهادی.
26.  خمینی، روح‌الله (1415ق). بدائع الدرر فی قاعدة نفی الضرر. مؤسسه تنظیم و نشر آثار امام خمینی (ره).
27.  عودة، جاسر (1432ق). مقاصد الشرعیة کفلسفة للتشریع الإسلامی: رؤیة منظومیة. المعهد العالمی للفکر الاسلامی.
28.  مکارم شیرازی، ناصر (1410ق). القواعد الفقهیة. بی‌جا: م‍درس‍ه‌ الام‍ام‌ ام‍ی‍رال‍م‍وم‍ن‍ی‍ن (ع‌).
29.    Aitken, Mhairi; Mahomed, Sabeehah; Briggs, Morgan; & Atabey, Ayça. (2023). How should children’s rights be integrated into AI governance? Retrieved from https://www.unesco.org/en/articles/how-should-childrens-rights-be-integrated-ai-governance
30.    Arain, Mariam; Haque, Maliha; Johal, Lina; Mathur, Puja; Nel, Wynand; Rais, Afsha; Sandhu, Ranbir; & Sharma, Sushil. (2013). Maturation of the adolescent brain. Neuropsychiatric Disease and Treatment, 9, 449–461. https://doi.org/10.2147/NDT.S39776
31.    Ausloos, Jef; Toh, Jill; & Giannopoulou, Alexandra. (2022, November 23). The case for collective action against the harms of data-driven technologies: To what extent are the GDPR’s data rights an effective tool for enabling collective action?
32.    Campbell, Jeff. (2025). AI Guardrails and Ethics: A Needed Paradigm Shift.
33.    Carter, Ruth B.; & Marchant, Gary E. (2011). Principles-Based Regulation and Emerging Technology. In B. R. Allenby & J. R. Herkert (Eds.), (B. R. Allenby & J. R. Herkert, Eds.), The Growing Gap Between Emerging Technologies and Legal-Ethical Oversight: The Pacing Problem (pp. 157–166). Springer Netherlands. https://doi.org/10.1007/978-94-007-1356-7_10
34.    European Parliament. Regulation (EU) 2022/2065 of the European Parliament and of the Council of 19 October 2022 on a Single Market For Digital Services and amending Directive 2000/31/EC (Digital Services Act) (2022).
35.    European Union. Artificial Intelligence Act (2024).
36.    Gallup. (2023, October 13). Teens Spend Average of 4.8 Hours on Social Media Per Day. Retrieved undefined 13, 1404, from https://news.gallup.com/poll/512576/teens-spend-average-hours-social-media-per-day.aspx
37.    Galván, Adriana. (2010). Adolescent development of the reward system. Frontiers in Human Neuroscience, 4. https://doi.org/10.3389/neuro.09.006.2010
38.    Gillespie, Tarleton. (2014). The Relevance of Algorithms. In P. J. Boczkowski, K. A. Foot, & T. Gillespie (Eds.), (P. J. Boczkowski, K. A. Foot, & T. Gillespie, Eds.), Media Technologies: Essays on Communication, Materiality, and Society (pp. 185–193). The MIT Press. https://doi.org/10.7551/mitpress/9780262525374.001.0001
39.    Habib, Zainal. (2025). Ethics of Artificial Intelligence in Maqāṣid Al-Sharīa’s Perspective. KARSA Journal of Social and Islamic Culture, 33(1), 105–134.
40.    Hattingh, Julius. (2025). New AI Transparency Rules Have a Trade Secrets Problem. Retrieved from https://www.lawfaremedia.org/article/new-ai-transparency-rules-have-a-trade-secrets-problem
41.    ICO. (2020). Introduction to the Children’s Code. Retrieved from https://ico.org.uk/for-organisations/uk-gdpr-guidance-and-resources/childrens-information/childrens-code-guidance-and-resources/introduction-to-the-childrens-code/
42.    Kids Online Health and Safety Task Force. (2024). Online Health and Safety for Children and Youth: Best Practices for Families and Guidance for Industry. U.S. Department of Health and Human Services.
43.    Kohl, Uta. (2024). Toxic recommender algorithms: immunities, liabilities and the regulated self-regulation of the Digital Services Act and the Online Safety Act. Journal of Media Law, 16(2), 301–335. https://doi.org/10.1080/17577632.2024.2408912
44.    Lu, Sylvia. (2024). Regulating Algorithmic Harms. Law & Economics Working Papers, 277.
45.    Milano, Silvia; Taddeo, Mariarosaria; & Floridi, Luciano. (2020). Recommender systems and their ethical challenges. AI & SOCIETY, 35(4), 957–967. https://doi.org/10.1007/s00146-020-00950-y
46.    Napoli, Philip M. (2015). Social media and the public interest: Governance of news platforms in the realm of individual and algorithmic gatekeepers. Telecommunications Policy, 39(9), 751–760.
47.    NIST. Artificial Intelligence Risk Management Framework (AI RMF 1.0) (2023). https://doi.org/10.6028/NIST.AI.100-1
48.    Noble, Safiya Umoja. (2018). Algorithms of Oppression: How Search Engines Reinforce Racism. NYU Press.
49.    Ofcom. (2024). The Causes and Impacts of Online Harm (Volume 2) – Ofcom Consultation Document. Ofcom.
50.    Office of the Surgeon General (OSG). (2023). Social Media and Youth Mental Health: The U.S. Surgeon General’s Advisory. US Department of Health and Human Services.
51.    Ojanen, Atte. (2025). Technology Neutrality as a Way to Future-Proof Regulation: The Case of the Artificial Intelligence Act. European Journal of Risk Regulation, 1–16. https://doi.org/10.1017/err.2025.10024
52.    Suarez, Christopher; & Haie, Anne-Gabrielle. (2025). How to Keep Trade Secrets Secret When Regulators Demand AI Transparency. Retrieved from https://www.corporatecomplianceinsights.com/how-to-keep-trade-secrets-secret-ai-transparency/
53.    Tyler, Tom R. (2000). Social Justice: Outcome and Procedure. International Journal of Psychology, 35(2), 117–125. https://doi.org/10.1080/002075900399411
54.    UK Parliament. Online Safety Act 2023 (2023). Statute Law Database.
55.    U.S. Congress. Algorithmic Accountability Act of 2023 (2023).