اپ ورکینگـ اخبار تکنولوژی اخبار تکنولوژی
ثبت بازخورد
- دیجیاتو
- نرم افزار و اپلیکیشن
- تکنولوژی
نرم افزار و اپلیکیشن رگولاتور بریتانیا: موتورهای جستجو به دروازه دسترسی به محتواهای آسیب‌زننده تبدیل شده‌اند
براساس تحقیق آفکام بریتانیا، از هر پنج نتیجه موتورهای جستجو درباره خودآزاری یک مورد مستقیماً کاربر را به محتوای مضر هدایت می‌کند.
نوشته شده توسط آزاد کبیری | ۱۲ بهمن ۱۴۰۲ | ۰۹:۰۰
در دیجیاتو ثبت‌نام کنید
جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
عضویت در دیجیاتو
تازه‌های تکنولوژی
- آپدیت جدید تلگرام منتشر شد؛ تحول همه‌جانبه Saved Messages ۴۹ دقیقه قبل
- تصاویر و مشخصات کامل مچ‌بند هوشمند گلکسی فیت ۳ فاش شد ۲ ساعت قبل
- روزیاتو: ۱۰ کشور ثروتمند جهان بر اساس سرانه تولید ناخالص داخلی در سال ۲۰۲۴ ۳ ساعت قبل
- مایکروسافت و OpenAI احتمالاً روی یک شرکت سازنده ربات‌های انسان‌نما سرمایه‌گذاری می‌کنند ۱۲ ساعت قبل
- بیلد جدید ویندوز خبر از انتشار قریب‌الوقوع ویندوز ۱۲ می‌دهد ۱۴ ساعت قبل
ویدئوی مرتبط
آفکام، رگولاتور بریتانیا، سطح ایمنی موتورهای جستجو مانند گوگل و بینگ را درباره محتواهای آسیب‌زننده تجزیهوتحلیل کرده است. طبق تحقیق این سازمان، موتورهای جستجو در ارائه محتواهای خودآزاری، خودکشی و محتواهای نامناسب نقش دارند. محققان آفکام می‌گویند که از هر پنج نتیجه موتورهای جستجو درباره خودآزاری یک مورد کاربر را به محتوای مضر هدایت می‌کند.
براساس تحقیق Ofcom، از هر پنج نتیجه جستجوی عباراتی درباره خودآزاری، یک مورد چنین رفتارهای مضری را تحسین یا ترغیب می‌کند. همچنین این چنین محتواهایی در بخش تصاویر موتورهای جستجو بیشتر یافت می‌شود. آفکام هشدار می‌دهد که محتواهایی که به تمجید یا ترغیب خودآزاری و خودکشی می‌پردازند، به‌طور گسترده از طریق موتورهای جستجو در دسترس هستند.
موتورهای جستجو دروازه‌ای برای محتواهای خودآزاری
موتورهای جستجو مانند گوگل، بیش از ۸۰ میلیارد بازدید در ماه دارند، در مقایسه شبکه‌های اجتماعی مانند تیک‌تاک دارای حدود ۱.۷ میلیارد کاربر فعال ماهانه است. به گفته آفکام موتورهای جستجو اغلب نقطه شروع وب‌گردی افراد هستند و به این دلیل می‌توانند دروازه‌ای برای دسترسی به محتوای خودآزاری باشند.
محققان آفکام حدود ۳۷ هزار نتیجه را در پنج موتور جستجو مطرح تجزیهوتحلیل کردند. آن‌ها از عبارات رایج و رمزآلود استفاده کردند، چراکه معمولاً عبارات واضح را این موتورها غربالگری می‌کنند. همچنین محققان گزینه «جستجو ایمن» را غیرفعال کرده بودند تا به تمام نتایج دسترسی داشته باشند.
محققان مشاهده کردند که ۲۲ درصد از نتایج جستجو، مستقیماً به محتوای مضر، همراه با دستورالعمل‌هایی برای اشکال مختلف خودآزاری لینک می‌شدند. همچنین ۱۹ درصد این مطالب در صفحات ابتدایی قرار داشتند. در بخش جستجوی تصویر، ۵۰ درصد از نتایج محتواهای نامناسب را نشان دادند.
این گزارش نتیجه‌گیری می‌کند که یکی از دلایلی که ممکن است برخی از این نتایج مضر توسط موتورهای جستجو بررسی نشود این است که الگوریتم آن‌ها ممکن است تصاویر خودآزاری را با عکس‌های پزشکی و سایر رسانه‌های قانونی اشتباه بگیرند.
یکی از مواردی که در این گزارش به آن پرداخته نشده است، اما به مرور اهمیت آن بیشتر می‌شود، نقشی است که هوش مصنوعی مولد ممکن است در این فضا ایفا کنند. البته تاکنون موانع مختلفی برای جلوگیری از سواستفاده از پلتفرم‌هایی مانند ChatGPT برای اهداف مضر اعمال شده است.
بینگ گوگل موتور جستجو
مقالات و اخبار مرتبط
- واکنش تند بازار به گزارش مالی گوگل؛ آلفابت ۱۱۰ میلیارد دلار از ارزش خود را از دست می‌دهد
- اپلیکیشن Arc Search معرفی شد؛ ترکیبی از موتور جستجو، مرورگر و هوش مصنوعی
- گوگل برای توسعه هوش مصنوعی در سال ۲۰۲۴، دارایی‌های مهم خود را قربانی می‌کند
- گوگل پرونده چند میلیارد دلاری بر سر فناوری‌های هوش مصنوعی خود را حل‌وفصل کرد
- گوگل از هوش مصنوعی پیشرفته Lumiere برای تولید ویدیو از متن و تصویر رونمایی کرد [تماشا کنید]
دیدگاه‌ها و نظرات خود را بنویسید
مطالب پیشنهادی
پیشنهادهای دیجیاتو
- بررسی گلکسی S24 Ultra؛ ستاره درخشان کهکشان سامسونگ
- بررسی مک‌بوک پرو M3 Pro
- مطالعه جدید: زنان دانشجوی کامپیوتر نمرات بهتری می‌گیرند اما مسیر شغلی متفاوتی را طی می‌کنند
- از کسب‌وکارهای کوچک تا بزرگ: تاثیر شماره‌های مجازی در تجارت الکترونیک
ورود به حساب کاربری
ساخت حساب کاربری
فراموشی رمز عبور
