زندگی در سایه الگوریتم‌ها

ما در عصر الگوریتم‌ها زندگی می‌کنیم و این ابزارهای جدید بر جهان ما حاکمیت دارند. در حال حاضر بخش قابل توجهی از اطلاعات ما از طریق شبکه‌های اجتماعی به‌دست می‌آید و در سطح اجتماعی برخی تصمیم‌های ما بر اساس همین اطلاعات است. در حالی‌که داده‌ها و محتواهایی که در این شبکه‌های منتشر می‌شوند و به ما می‌رسد، بیطرف نیستند. آنها تحت تاثیر الگوریتم‌ها دچار سوگیری هستند.

الگوریتم مجموعه‌ای از دستورالعمل‌های مرحله‌به‌مرحله برای حل یک مسئله یا انجام یک وظیفه است. برخی الگوریتم‌ها ساده و ثابت هستند، در حالی که برخی دیگر الگوها را از داده‌ها «یاد می‌گیرند»، مانند آنچه در یادگیری ماشین رخ می‌دهد (Stanford Institute for Human-Centered Artificial Intelligence, n.d.)

در پرتو حضور قدرت‌مند الگوریتم‌ها می‌توان گفت که تصمیم‌هایی که بر زندگی ما اثر می‌گذارند، نه توسط انسان‌ها،‌ بلکه توسط مدل‌های ریاضی اتخاذ می‌شوند. در عالم نظر، این امر باید به عدالت بیشتر منجر شود: همه براساس قواعد یکسان قضاوت شوند و تبعیض از بین می‌رود، اما… نتیجه برعکس است. مدل‌هایی که اموز استفاده می‌شوند، غیرشفاف، بدون نظارت و غیر قابل اعتراض هستند، حتی زمانی‌که اشتباه می‌کنند (O’Neil, 2016).

گسترش سریع و تا حد زیادی بدون نظارت آن‌ها، نگرانی‌هایی را درباره نقششان در بهزیستی، هم در سطح فردی و هم در سطح جمعی، برانگیخته است (Metzler & Garcia, 2024)و این پرسش که نفوذ فراگیر الگوریتم‌ها در جامعه انسانی چه پیامدهای سیاسی‌ای دارد، به‌عنوان یکی از مسائل بنیادین عصر ما ظاهر می‌شود(Musiani, 2013)

حکمرانی الگوریتم‌ها

حکمرانی دیجیتال این ایده را برجسته می‌سازد که فناوری‌های دیجیتال به شیوه‌ای خاص به ایجاد نظم اجتماعی می‌پردازند و داده محورشدن و نظارت، سوگیری، عاملیت و شفافیت حکمرانی الگوریتمی  (Katzenbach & Ulbricht, 2019) را فراهم می‌کند.

موتورهای جست‌وجو، و ابزارهای متعددی که زیربنای اینترنت را تشکیل می‌دهند، با ارائه اطلاعات در ابتدای فهرست نتایج جست‌وجو یا پنهان کردن آن در انتهای آن، به اطلاعات سلسله‌مراتب دیداری می‌دهند. آن‌ها با تصمیم‌گیری عملی درباره اینکه «چه چیزی باید دیده شود»، می‌توانند بحث و مناقشه را تشویق یا تضعیف کنند—در حالی که هم‌زمان در این فرایند، دستورکار عمومیِ اولویت‌های سیاسی و اجتماعی را شکل می‌دهند و همچنین گزینش می‌کنند که چه طرف‌های گفت‌وگویی اهمیت دارند. . (Cardon, 2013: 11 as cited in Musiani, 2013: 4) اگر این امر را با این واقعیت همراه کنیم که فناوری‌های نظارتی بیش از پیش در زندگی روزمره ما ادغام شده‌اند، به نظر می‌رسد که در یک نقطه عطف مهم برای آینده حکمرانی الگوریتمی قرار داریم (Danaher et al., 2017)

در واقع، به نظر می‌رسد داده‌های دیجیتال در جهان پیچیده‌ی امروز به‌سرعت تکثیر می‌شوند و بر تنوع پلتفرم‌ها و بسترهایی تکیه دارند که امکان نامادی‌سازی و گردش و توزیع سریع را فراهم می‌کنند. این داده‌ها اهداف متفاوتی را دنبال می‌کنند: از مبادله تا نظارت، از ارزیابی تا توصیه؛ و از طریق ابزارها و بسترهای گوناگون، از موتورهای جست‌وجو گرفته تا وب‌سایت‌های تجارت الکترونیک، فهرست‌بندی، بازگروه‌بندی و سازمان‌دهی می‌شوند. در حالی که شرکت‌ها از ردپاهای بر جای مانده از مصرف‌کنندگان در وب بهره می‌برند تا خریدها و تعاملات بعدی آن‌ها را بهتر هدف‌گذاری، شخصی‌سازی (و از آن بهره‌برداری) کنند، برخی کاربران نگران تصویری هستند که چنین ردپاهایی به دیگران امکان ترسیم آن را از آن‌ها می‌دهد، و نیز نگران ناتوانی در تغییر یا حذف این داده‌ها که برای بررسی نسل‌های آینده باقی می‌مانند. (Musiani, 2013)

الگوریتم‌های رسانه‌های اجتماعی

امروزه الگوریتم‌ها در شبکه‌های اجتماعی «تعیین می‌کنند چه محتوایی در فیدهای ما نمایش داده شود»  (Koschke, 2025)و آن‌ها توسط برنامه‌نویسانی نوشته می‌شود. شوند که از یادگیری ماشین استفاده می‌کنند. «یادگیری ماشین» به این معناست که الگوریتم‌ها «یاد می‌گیرند» چگونه وظایف را در سطوح مختلفی از نظارت انسانی انجام دهند. الگوریتم‌ها وظایف متعددی را مدیریت می‌کنند که انجام آن‌ها برای انسان‌ها خسته‌کننده است؛ مانند مدیریت جریان محتوا از طریق پیشنهادهای فعال و همچنین محدودسازی‌های منفی مانند شدوب (shadow ban)، و میانجی‌گری تعامل با اطلاعات از طریق لایک‌ها و کامنت‌ها برای بهبود قابلیت دیده‌شدن محتوا. علاوه بر این، الگوریتم‌ها اطلاعات را به‌گونه‌ای رتبه‌بندی و فیلتر می‌کنند که برای تولیدکنندگان محتوا، انگیزه‌ها و شرایطی شبیه به بازار ایجاد می‌کند (Golino, 2021)

الگوریتم رسانه‌های اجتماعی از مجموعه‌ای پیچیده از قوانین و سیگنال‌ها تشکیل شده است. این الگوریتم‌ها محتوا را بر اساس معیارهای مختلفی ارزیابی می‌کنند، از جمله احتمال اینکه برخی پست‌ها برای افراد خاص جالب باشند یا بتوانند به تعامل منجر شوند. معیارهای دقیق بسته به پلتفرم متفاوت است—آنچه برای فیسبوک صدق می‌کند، لزوماً برای اینستاگرام یا X (توییتر سابق) صدق نمی‌کند. هوش مصنوعی این الگوریتم‌ها همگی مبتنی بر یادگیری ماشین هستند، به این معنا که در طول زمان خود را تطبیق می‌دهند.

الگوریتم‌ها در پلتفرم‌های شبکه‌های اجتماعی را می‌توان به‌عنوان ابزارهای فنی برای مرتب‌سازی پست‌ها بر اساس میزان ارتباط (relevancy) به‌جای زمان انتشار تعریف کرد، به‌گونه‌ای که مشخص شود کدام محتوا با توجه به احتمال تعامل کاربر با آن، ابتدا به او نمایش داده شود. برای مثال، پست‌هایی که هنگام اسکرول کردن در فید اینستاگرام به شما پیشنهاد می‌شوند، یا استوری‌های دوستان‌تان که در بالای صفحه ظاهر می‌شوند، توسط الگوریتم‌ها تعیین می‌گردند  (Golino, 2021)

نحوه دقیق کار الگوریتم فیسبوک تا حد زیادی محرمانه باقی مانده است. با این حال، این الگوریتم بر اساس رفتار کاربران عمل می‌کند: شما از چه افرادی یا صفحاتی پیروی می‌کنید؟ با کدام محتواها بیشتر تعامل دارید؟ این الگوریتم تمام این داده‌ها را تحلیل می‌کند و محتوایی را بیشتر به شما نشان می‌دهد که با رفتار شما همخوانی دارد. فیسبوک همچنین ارتباط و اهمیت پست‌ها را بر اساس کیفیت آن‌ها و میزان تعامل سایر کاربران ارزیابی می‌کند. این امر به کاهش اطلاعات نادرست کمک می‌کند و اطمینان می‌دهد که محتوای باکیفیت برجسته شو (Koschke, 2025)

جمع‌بندی

در عصر کنونی، الگوریتم ها تعیین می‌کنند چه محتوایی در فیدهای ما نمایش داده شود و آنها ضمن این‌که  جریان محتوا ر مدیریت می‌کنند، از طریق پیشنهادهای فعال و همچنین محدودسازی‌های منفی و میانجی‌گری تعامل با اطلاعات از طریق لایک‌ها و کامنت‌ها؛ اطلاعات را به‌گونه‌ای رتبه‌بندی و فیلتر می‌کنند که برای تولیدکنندگان محتوا، انگیزه‌ها و شرایطی شبیه به بازار ایجاد می‌کند. گسترش بدون نظارت آن‌ها، نگرانی‌هایی را درباره نقششان در بهزیستی، هم در سطح فردی و هم در سطح جمعی، برانگیخته و این پرسش که «نفوذ فراگیر الگوریتم‌ها در جامعه انسانی چه پیامدهای سیاسی‌ای دارد، به‌عنوان یکی از مسائل بنیادین عصر ما ظاهر می‌شود»(Musiani, 2013) و این خودش نگرانی در چگونگی و خوانش محتوا در شبکه‌های اجتماعی ایجاد کرده است که کاربران عادی شاید عمق حساسیت و تاثیرگذاری دریافت الگوریتمیک داده‌ها را درک نتوانند.  درواقع این فناوری‌ها در فضای دیجیتال، نقش پررنگی در شکل‌دهی تجربه‌ها، رفتارها، علایق و تعاملات ما به‌عنوان کاربران بازی می‌کنند و در درازمدت پیامدهای شناختی مهم در زندگی ما ایجاد خواهد کرد؛ خصوصا از این منظر که کاربران معمولا با دیدگاه‌ها و پست‌ها و محتواهایی روبرو می‌شوند که ناخودآگاه و یا آگاهانه با آن همسو هستند و دریافت متواتر پیام‌های موید تفکر کاربر، به شکل گیری قطبی سازی اجتماعی، جناحی و ایدئولوژیک که نهایتا بی‌عدالتی در فضای مجازی را در پی دارد.

با این توصیف ما در عصر زندگی می‌کنیم که الگوریتم‌های دیجیتال بر ما حکمرانی می‌کند و برخورد انتقادی و معقول در برابر آن که ریشه در سواد رسانه‌ای داشته باشذ، شاید از گرفتاری‌ها و نگرانی‌های ما کمی بکاهد.

منابع

1. Golino, M. A. (2021, April 24). Algorithms in social media platforms: How social media algorithms influence the spread of culture and information in the digital society. Institute for Internet and the Just Society. https://www.internetjustsociety.org/algorithms-in-social-media-platforms
2. Koschke, M. (2025, January 6). How does my social media algorithm work? IT Center Blog, RWTH Aachen University. https://blog.rwth-aachen.de/itc/en/2025/01/06/wie-funktioniert-mein-social-media-algorithmus/
3. Musiani, F. (2013). Governance by algorithms. Internet Policy Review, 2(3). https://doi.org/10.14763/2013.3.188
4. Metzler H, Garcia D. Social Drivers and Algorithmic Mechanisms on Digital Media. Perspect Psychol Sci. 2024 Sep;19(5):735-748. doi: 10.1177/17456916231185057. Epub 2023 Jul 19. PMID: 37466493; PMCID: PMC11373151.
5. Katzenbach, C., & Ulbricht, L. (2019). Algorithmic governance. Internet Policy Review, 8(4). https://doi.org/10.14763/2019.4.1424
6. Danaher, J., Hogan, M. J., Noone, C., Kennedy, R., Behan, A., De Paor, A., Felzmann, H., Haklay, M., Khoo, S.-M., Morison, J., Murphy, M. H., O’Brolchain, N., Schafer, B., & Shankar, K. (2017). Algorithmic governance: Developing a research agenda through the power of collective intelligence. Big Data & Society, 4(2).
7. Stanford Institute for Human-Centered Artificial Intelligence. (n.d.). What is an algorithm? https://hai.stanford.edu/ai-definitions/what-is-an-algorithm
8. Werbach, K. (2018, September 24). The siren song: Algorithmic governance by blockchain. In K. Werbach (Ed.), After the digital tornado: Networks, algorithms, humanity (2020, forthcoming). SSRN. https://ssrn.com/abstract=3578610
9. O’Neil, C. (2016). Weapons of math destruction: How big data increases inequality and threatens democracy. Crown Publishing Group. https://dl.acm.org/doi/10.5555/3002861