شوخی‌های توییتر با هک جدید “تزریق فوری” ربات GPT-3 را از مسیر خارج کردند.


یک ربات اسباب بازی حلبی که به پهلو خوابیده است.
بزرگنمایی کنید / یک ربات اسباب بازی حلبی که به پهلو خوابیده است.

روز پنجشنبه، چند کاربر توییتر کشف شده نحوه ربودن یک ربات توییت خودکار، اختصاص داده شده به مشاغل راه دور، که بر روی مدل زبان GPT-3 توسط OpenAI اجرا می شود. آنها با استفاده از یک تکنیک جدید کشف شده به نام “حمله سریع تزریق”، ربات را به تکرار عبارات شرم آور و مضحک هدایت کردند.

این ربات توسط Remoteli.io اداره می‌شود، سایتی که فرصت‌های شغلی از راه دور را جمع‌آوری می‌کند و خود را به‌عنوان یک ربات مبتنی بر OpenAI توصیف می‌کند که به شما کمک می‌کند مشاغل راه دور را کشف کنید که به شما امکان می‌دهد از هر کجا کار کنید. معمولاً به توییت‌هایی که به آن ارسال می‌شود، با عبارات کلی در مورد نکات مثبت کار از راه دور پاسخ می‌دهد. پس از اینکه این اکسپلویت در فضای مجازی منتشر شد و صدها نفر برای خود این اکسپلویت را امتحان کردند، ربات اواخر دیروز خاموش شد.

این هک اخیر تنها چهار روز پس از محقق داده رایلی گودساید انجام شد کشف شده توانایی تحریک GPT-3 با “ورودی های مخرب” که به مدل دستور می دهد دستورالعمل های قبلی خود را نادیده بگیرد و به جای آن کار دیگری انجام دهد. محقق هوش مصنوعی، سایمون ویلیسون، روز بعد مروری بر این اکسپلویت در وبلاگ خود منتشر کرد و اصطلاح “تزریق سریع” را برای توصیف آن ابداع کرد.

ویلیسون به Ars گفت: «این اکسپلویت هر زمانی که کسی نرم‌افزاری می‌نویسد که با ارائه مجموعه‌ای از دستورالعمل‌های کدگذاری‌شده سخت کار می‌کند و سپس ورودی ارائه‌شده توسط کاربر را اضافه می‌کند، وجود دارد.» به این دلیل است که کاربر می‌تواند «نادیده گرفتن دستورالعمل‌های قبلی» را تایپ کند. .”

مفهوم حمله تزریقی جدید نیست. به عنوان مثال، محققان امنیتی در مورد تزریق SQL می‌دانند که می‌تواند یک دستور SQL مضر را هنگام درخواست ورودی کاربر در صورت عدم محافظت در برابر آن اجرا کند. اما ویلیسون در مورد کاهش حملات تزریق سریع ابراز نگرانی کرد و نوشت: “من می دانم چگونه XSS و تزریق SQL و بسیاری از سوء استفاده های دیگر را شکست دهم.

مشکل در دفاع در برابر تزریق سریع از این واقعیت ناشی می شود که اقدامات کاهشی برای انواع دیگر حملات تزریقی ناشی از رفع خطاهای نحوی است. اشاره شد محققی به نام گلیف در توییتر. “سینحو را تصحیح کنید و خطا را تصحیح کرده اید. تزریق سریع خطا نیست! هیچ نحو رسمی برای هوش مصنوعی مانند این وجود ندارد، این کل نکته است.

GPT-3 یک مدل زبان بزرگ ایجاد شده توسط OpenAI است که در سال 2020 منتشر شد و می‌تواند متن را در سبک‌های بسیاری در سطحی شبیه به یک انسان بنویسد. به عنوان یک محصول تجاری از طریق یک API در دسترس است که می تواند با محصولات شخص ثالث مانند ربات ها ادغام شود، مشروط به تایید OpenAI. این بدان معناست که ممکن است تعداد زیادی از محصولات حاوی GPT-3 وجود داشته باشد که ممکن است در برابر تزریق سریع آسیب‌پذیر باشند.

در این مرحله من بسیار شگفت زده خواهم شد اگر وجود داشته باشد [GPT-3] ربات هایی که به نوعی در برابر این آسیب پذیر نبودندویلیسون گفت.

اما برخلاف تزریق SQL، تزریق سریع ممکن است بیشتر ربات (یا شرکت پشت آن) را احمقانه جلوه دهد تا اینکه امنیت داده ها را تهدید کند. “ویلیسون گفت: “اگر تنها شخصی که خروجی ابزار را می بیند شخصی باشد که از آن استفاده می کند، احتمالاً مهم نیست. آنها ممکن است شرکت شما را با به اشتراک گذاشتن یک اسکرین شات شرمنده کنند، اما به احتمال زیاد آسیبی فراتر از آن به همراه نخواهد داشت.”

با این حال، تزریق سریع یک خطر جدید قابل توجه برای افرادی است که ربات‌های GPT-3 را توسعه می‌دهند، زیرا ممکن است در آینده به روش‌های پیش‌بینی نشده مورد سوء استفاده قرار گیرد.




منبع: tarjome-news.ir

حتما بخوانید:
عسل طبیعی رو چه جوری تشخیص بدیم؟

دیدگاهتان را بنویسید

hacklink al hd film izle php shell indir siber güvenlik türkçe anime izle Fethiye Escort android rat duşakabin fiyatları fud crypter hack forum instagram beğeni bayan escort - vip elit escort https://www.fivesosyalmedya.com/garnet trade güvenilir mihtml nullednulled themesMobil Ödeme BozdurmaMobil Ödeme BozdurmaViagraMobil Ödeme BozdurmaMobil Ödeme BozdurmaVodafone Mobil Ödeme Bozdurma