5 موردی که در کسپرسکی NEXT آموخته ایم

رویداد Kaspersky NEXT در سال جاری ، تحقیقات و مباحثه برخی از برجسته ترین کارشناسان اروپا در زمینه امنیت سایبر و هوش مصنوعی را به نمایش گذاشت. از یادگیری ماشینی و هوش مصنوعی درست تا امنیت IoT ، در اینجا پنج چیز است که در این رویداد امسال آموخته ایم ، که در 14 اکتبر در لیسبون اتفاق افتاد.

استفاده از هوش مصنوعی برای عادلانه تر کردن جهان

به این فکر کردید که امروز چند ماشین تصمیم گیری گرفته است؟ یا چه تعداد از این تصمیمات مبتنی بر جنسیت ، نژاد یا پیشینه بود؟ شانس شما حتی متوجه نیستید که چه تعداد تصمیماتی توسط هوش مصنوعی به جای یک انسان گرفته می شود. کریتی شارما ، بنیانگذار AI for Good ، توضیح داد که از الگوریتم ها در تمام مدت استفاده می شود تا درمورد اینکه چه کسی هستیم و چه می خواهیم تصمیم بگیریم.

کریتی همچنین اظهار داشت که آنچه ما واقعاً برای بهبود هوش مصنوعی باید انجام دهیم ، جمع می شود. مردم از انواع سوابق ، جنسها و قومیت ها. در اینجا می توانید Ted Talk را در مورد اینکه چرا تعصب انسانی بر تصمیم گیری ماشین تأثیر می گذارد تماشا کنید:

تأثیر تعیین جنسیت به هوش مصنوعی

به الکسا ، سیری و کورتانا بیاندیشید. همه آنها چه ارتباطی دارند؟ آنها از صدای زن استفاده می کنند و ساخته می شوند که بندگان مطیع هستند. چرا؟ آیا فناوری تقویت کننده کلیشه است؟ دو بحث پانل در مورد جنسیت و هوش مصنوعی مورد بررسی قرار گرفت. دستیاران دیجیتالی صدای زن دارند زیرا همانطور که مطالعات مختلف مشخص کرده است ، مردم با صدای زن به عنوان دستیاران دیجیتال احساس راحتی بیشتری می کنند. آیا این بازتاب جامعه است؟

بنابراین ، برای مبارزه با نابرابری جنسیتی در هوش مصنوعی چه می توان کرد؟ شاید از صدای بی طرف جنسیتی استفاده کنید ، یا شاید جنسیتی برای روبات ها و هوش مصنوعی ایجاد کنید. علاوه بر پرداختن به این موضوع (و در بالا به آن اشاره شد) ، داشتن تیم های متنوع تر نیز برای ایجاد هوش مصنوعی نیز حائز اهمیت است و این نشان دهنده تنوع کاربری در خدمت آنها است.

چه صدایی را برای دستیار دیجیتالی خود ترجیح می دهید؟ #Siri #Alexa #Cortana #KasperskyNEXT

– کسپرسکی (kaspersky) 14 اکتبر 2019

مردم به روبات ها بیش از آنکه به مردم اعتماد کنند [19659] یک روبات اجتماعی یک سیستم هوش مصنوعی است که با انسان و سایر روبات ها در تعامل است – و این که برخلاف سیری یا کورتانا ، یک حضور جسمی دارد. تونی بالپمی ، استاد رباتیک در دانشگاه گنت ، توضیح داد كه چگونه مسائل مربوط به تعامل روبوت و انسان با افزایش روبات ها بیشتر می شود.

بالپائم بعضی از آزمایش های علمی را كه او و تیمش اجرا كرده اند ، شرح می دهد. به عنوان مثال ، آنها توانایی انسان در مقابل روبات ها را برای استخراج اطلاعات حساس (تاریخ تولد ، خیابان کودک یا شهر ، رنگ مورد علاقه و غیره) که می توانند برای تنظیم مجدد کلمه عبور استفاده کنند ، آزمایش کردند. نکته جالب این است که به روبات ها بیشتر از مردم اعتماد می شود ، بنابراین افراد به احتمال زیاد اطلاعات حساس را به آنها می دهند.

او همچنین آزمایشی را برای نفوذ فیزیکی نشان داد. گروهی از افراد وظیفه تأمین امنیت ساختمان یا منطقه را به راحتی اجازه می دهند تا یک ربات ناز به داخل منطقه بپیوندد. هیچ دلیلی وجود ندارد که فرض کنیم روبات بی خطر است ، اما انسان ها فرض می کنند که بی ضرر هستند – تمایل بسیار سوءاستفاده ای. می توانید اطلاعات بیشتری در مورد روباتیک اجتماعی و آزمایش های مرتبط با آن در Securelist مطالعه کنید.

آیا بزرگسالان می توانند تحت تأثیر روبات ها باشند؟ 🤔🤖
آزمایش: دستیابی به محل های خارج از محدوده با استفاده از چرخ خیاطی.
آزمایش دوم: روبات هایی با پیتزا 100٪ موفقیت کسب کردند 🤣🍕 TonyBelpaeme در #KasperskyNEXT pic.twitter.com/h79Ssz0Crp

kaspersky) 14 اکتبر 2019

هوش مصنوعی عمیق ترین اعتقادات را ایجاد خواهد کرد

دیوید جاکوبی ، یکی از اعضای GRasp Kaspersky ، در مورد مهندسی اجتماعی صحبت کرد: رباتهای چت ، AI و تهدیدات خودکار. با گذشت زمان ، برنامه های تشخیص چهره و صدا می توانند از طریق مهندسی اجتماعی یا سایر روش های مدرسه قدیمی مورد سوء استفاده قرار بگیرند.

Jacoby همچنین در مورد جعلیات عمیق صحبت کرد که کشف آنها بسیار دشوارتر است. تأثیر آنها بر انتخابات آینده و پخش خبرها مهمترین نگرانی است.

اما نگرانی اصلی اعتماد است. پس از تکمیل فناوری ، به چه کسی اعتماد خواهید کرد؟ وی اظهار داشت ، راه حل ، آگاهی بهتر است: آموزش و همچنین فن آوری جدید برای کمک به کاربران در کشف فیلم های جعلی.

وضعیت امنیتی در روباتیک

دمیتری گالوف ، دیگر عضو کسپرسکی GReAT ، در مورد ROS (ربات) صحبت کرد. سیستم عامل) ، چارچوبی انعطاف پذیر برای نوشتن نرم افزار ربات. مانند بسیاری از سیستم های دیگر ، ROS با در نظر داشتن امنیت ایجاد نشده است و طبیعتاً دارای مسائل امنیتی قابل توجهی است. قبل از اینکه محصولات مستقر در ROS مانند روبات های اجتماعی و اتومبیل های خودمختار از کلاسهای دانشگاه به آغوش مصرف کنندگان بچرخند ، سازندگان باید این موارد را حل کنند. در واقع ، نسخه جدید ROS در حال توسعه است. می توانید اطلاعات بیشتری را در گزارش گالوف بخوانید.

نکته پاداش: از کاندوم USB

استفاده کنید] Marco Preuss و Dan Demeter ، اعضای GReAT کسپرسکی ، در مورد چگونگی محافظت از خود در برابر هک کردن در حالی که در سفرهای کاری قرار دارند صحبت کردند. آیا فکر کرده اید که ممکن است دوربین اتاق های مخفی ، اشکالات و آینه های دو طرفه در اتاق هتل شما وجود داشته باشد؟

برای کمی پارانوئید ، این پست شامل برخی نکات مربوط به امنیت مسافرتی از Preuss و Demeter است که در مورد اهمیت نیز صحبت می کردند (اگر شما واقعاً پارانوئید هستید که از یک "کاندوم" USB استفاده می کنید – بله ، آنها واقعاً وجود دارند ، و استفاده از آنها مشابه موارد عادی است: اگر می خواهید تلفن خود را با استفاده از یک پورت USB ناشناس شارژ کنید ، ارزش استفاده از دستگاه خود را با این اسباب بازی کوچک دارد. خوشبختانه ، برخلاف کاندوم های معمولی ، این موارد قابل استفاده هستند.