ردیت با استفاده از مدلهای زبانی هوش مصنوعی، روزانه ۲۳ میلیون اسپم را پیش از رسیدن به کاربران مسدود میکند. پلتفرم ردیت برای مقابله با موج فزاینده محتوای تولیدشده توسط هوش مصنوعی، تصمیم گرفته است تا از سلاح مشابهی استفاده کند. با دسترسی آسان به مدلهای زبانی بزرگ، تولید اسپم و فعالیت باتها در اینترنت بسیار افزایش یافته است، اما ردیت با بهکارگیری هوش مصنوعی اختصاصی خود توانسته است این مشکل را به شکل قابلتوجهی کنترل و میلیونها محتوای مخرب را پیش از دیدهشدن توسط کاربران مسدود کند. نحوه عملکرد هوش مصنوعی ردیت به گفته ردیت، آنها بیش از ۲۱ سال است که با باتها و محتوای بیارزش یا به اصطلاح زبالههای اینترنتی مبارزه میکنند، اما ظهور مدلهای زبانی کار را برای مهاجمان بسیار آسانتر کرده است. برای حل مشکلی که عمدتاً توسط هوش مصنوعی ایجاد شده، چارهای جز استفاده از همین فناوری وجود ندارد؛ رویکردی که به معنای مبارزه با آتش به وسیله آتش است. درحالیکه پلتفرمهایی مانند یوتوب و متا به کاربران امکان میدهند تا محتوای تولیدشده توسط AI را فقط با برچسبگذاری منتشر کنند و تیکتاک نیز امکان تعیین میزان نمایش این محتوا را به مخاطبان میدهد، ردیت مسیر تهاجمیتری را در پیش گرفته است. هوش مصنوعی این شرکت اکنون الگوهای بسیار پیچیده و هماهنگ رفتارهای جعلی را بررسی میکند. این سیستمها به محض ایجاد یک حساب کاربری جدید، سیگنالهای مشکوک را زیر نظر میگیرند تا پیش از انتشار هرگونه پست، جلوی فعالیت باتها را بگیرند. همچنین، این پلتفرم لایه امنیتی جدیدی اضافه کرده است که حسابهای نامتعارف را مجبور میکند تا انسانبودن خود را با انجام آزمایشهایی تأیید کنند. اقدامات امنیتی جدید ردیت صرفاً به حذف اسپمها محدود نمیشود، بلکه این شرکت سیستمهای خودکار خود را برای برخورد با محتوای حاوی نفرتپراکنی، آزار و اذیت و خشونت در تمام متنهای انگلیسیزبان ارتقا داده است و به زودی زبانهای بیشتری را نیز پوشش خواهد داد. با این بهروزرسانی، میانگین زمان تشخیص یک محتوای مخرب تا اعمال قانون روی آن، از چند ساعت به کمتر از پنج ثانیه کاهش یافته است.
دیجیاتو
دیجیاتودیجیاتو