محققان ام آی تی هوش مصنوعی گوگل را فریب دادند
به گزارش سئو سی تاكنون از شیوه های مختلفی برای فریب سیستم های هوش مصنوعی استفاده شده و در تازه ترین رویداد از این دست، محققان دانشگاه ام آی تی سیستم هوش مصنوعی گوگل را فریب داده اند.
به گزارش سئو سی به نقل از نكست وب، پژوهشگران این دانشگاه یك سیستم متنی معروف به تكست فولر ابداع نموده اند كه می تواند مدلهای هوش مصنوعی كه از سیستم پردازش زبان های طبیعی استفاده می نمایند را گول بزند.
بسیاری از دستیارهای صوتی مانند الكسای آمازون و سیری اپل از سیستم پردازش زبان های طبیعی برای درك دستورات كاربران استفاده می نمایند و بنابراین فریب آنها می تواند امنیت چنین سیستم هایی را به خطر بیاندازد. همینطور فریب سیستم مذكور باعث سوءاستفاده از آنها برای ارسال هرزنامه یا متون غیرمؤدبانه می شود.
تكست فولر یك سیستم فریبنده است كه با درك نقص ها و ضعف های سیستم پردازش زبان های طبیعی آنها را فریب می دهد.
این سیستم جملاتی را با دستكاری چند كلمه آنها به خورد سیستم پردازش زبان های طبیعی می دهد، بدون اینكه دستكاری مورد اشاره باعث تغییر معنا یا ایجاد غلط های دستور زبانی شود.
بعد از این كار و بررسی واكنش سیستم پردازش زبان های طبیعی به این تغییر، به تدریج تغییرات جدی تر و عمیق تری در جملات ایجاد می شود تا در نهایت از حساسیت و دقت این سیستم كاسته شود و بتوان آنرا فریب داد.
محققان دانشگاه ام آی تی می گویند با همین روش سه مدل متداول در سیستم پردازش زبان های طبیعی را دستكاری كرده و فریب داده اند.
یكی از این مدلها كه برت نام دارد، یك مدل زبانی متن باز ابداع شده توسط گوگل است كه تنها تغییر ۱۰ درصد از بخش های هر جمله توسط تكست فولر به فریب آن منجر گردید. بر همین مبنا انتظار می رود شركت های فناوری برای ارتقای سیستم پردازش زبان های طبیعی اقدام نمایند تا از دستكاری آن جلوگیری نمایند.
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب