همه چیز در رابطه با محدودیت های هوش مصنوعی از درک ناقص زمینه تا تولید اطلاعات نادرست
سایت امن: هوش مصنوعی می تواند در آموزش، پزشکی، برنامه نویسی، تولید محتوا و تجارت به انسان کمک کند؛ اما بی خطا یا همه توان نیست. کیفیت داده ها، احتمال تولید پاسخ نادرست، سوگیری، دشواری توضیح برخی تصمیم ها و هزینه های محاسباتی همچون محدودیت هایی هستند که باید هنگام استفاده از این فنآوری درنظر گرفت.
به گزارش سایت امن به نقل از خبر آنلاین، ابزارهای هوش مصنوعی می توانند حجم زیادی از اطلاعات را در زمانی کوتاه پردازش کنند و الگوهایی را بیابند که بررسی آنها برای انسان دشوار است. بااین حال، توانایی پردازش داده ها به معنای درک کامل جهان، شناخت تجربه های انسانی یا درست بودن همیشگی پاسخ ها نیست.
شناخت محدودیت های هوش مصنوعی کمک می نماید بدانیم چه زمانی می توان از آن کمک گرفت، چه زمانی باید پاسخ هایش را بررسی کرد و در چه موقعیت هایی تصمیم گیری نهائی را نمی توان به سامانه سپرد.
۱. درک زمینه و مفاهیم انسانی
مدل های هوش مصنوعی می توانند زبان انسان را پردازش کنند و پاسخ هایی روان و شبیه گفت و گوی طبیعی ارایه دهند؛ اما این قابلیت با درک انسانی یکسان نیست. یک مدل ممکنست در رابطه با غم، ترس یا گرسنگی توضیحی دقیق بدهد، اما این به معنای تجربه کردن این احساسات نیست.
تشخیص کنایه، طنز، اصطلاحات محلی و زمینه فرهنگی هم گاهی برای سامانه ها دشوار است. بعنوان مثال، جمله «عالی شد! دقیقا همین را کم داشتم!» ممکنست در یک موقعیت به معنای رضایت باشد و در موقعیتی دیگر نشان دهنده ناراحتی یا طعنه. اگر سامانه زمینه گفت و گو را درست تشخیص ندهد، ممکنست منظور گوینده را برعکس برداشت کند.
این محدودیت در موقعیت هایی مهم تر می شود که فهم نیت افراد یا شرایط اجتماعی برای تصمیم گیری ضروریست.
۲. وابستگی به کیفیت داده ها
عملکرد هوش مصنوعی تا حد زیادی به داده هایی وابسته است که با آنها آموزش دیده یا در زمان استفاده دریافت می کند. اگر این داده ها ناقص، قدیمی، نادرست یا نامتوازن باشند، خروجی سامانه هم ممکنست مشکل داشته باشد.
مدلی که برمبنای نمونه های گذشته آموزش دیده، ممکنست در وضعیت تازه یا متفاوت عملکرد ضعیف تری نشان دهد. بطور مثال، الگویی که در یک کشور یا گروه اجتماعی کارآمد بوده، لزوماً برای جامعه ای دیگر مناسب نمی باشد.
به همین دلیل، بررسی کیفیت داده ها، آزمودن عملکرد سامانه در موقعیت های مختلف و نظارت انسانی می تواند به کاهش خطا کمک نماید.
۳. سوگیری الگوریتمی
اگر داده های آموزشی بازتاب دهنده تبعیض ها یا نابرابری های موجود باشند، سامانه ممکنست همان الگوها را بازتولید کند. این مساله را سوگیری الگوریتمی می نامند.
برای مثال، اگر یک سامانه استخدام با داده های تاریخی نامتوازن آموزش ببیند، ممکنست در ارزیابی رزومه ها به صورت نامناسب برخی گروه ها را در اولویت قرار دهد. چنین نتیجه ای لزوماً به این معنا نیست که سامانه عمداً تبعیض می کند؛ اما نشان میدهد انتخاب و کیفیت داده ها می تواند بر خروجی اثر بگذارد.
بررسی داده ها، سنجش نتایج برای گروههای مختلف و امکان بازنگری انسانی از راهکارهایی هستند که می توانند احتمال چنین خطاهایی را کاهش دهند.
۴. تولید اطلاعات نادرست
مدل های زبانی گاهی پاسخی تولید می کنند که از نظر نگارشی منسجم و قانع کننده است، اما از نظر حقیقی نادرست است. این خطا ممکنست بشکل آمار اشتباه، نقل قول نادقیق، منبع ناموجود یا توضیح علمی نادرست دیده شود.
روان بودن یک پاسخ به تنهایی نشانه درستی آن نیست. اگر مقرر است از خروجی هوش مصنوعی در گزارش خبری، پژوهش، کار تخصصی یا تصمیم مهم استفاده شود، باید ادعاهای اصلی با منابع معتبر و مستقل راستی آزمایی شوند.
۵. محدودیت در خلاقیت
ابزارهای هوش مصنوعی می توانند شعر، داستان، تصویر، موسیقی و طرح های گرافیکی تولید کنند. این قابلیت در خیلی از کارها مفید می باشد، اما تولید یک خروجی تازه با تجربه انسانی از خلاقیت یکسان نیست. سامانه برمبنای الگوهایی که آموخته، محتوایی تازه می سازد؛ اما این به تنهایی نشانه تجربه زیسته، قصد هنری یا درک شخصی نیست.
ارزیابی خلاقیت هم به معیارهایی مانند اصالت، کیفیت، کاربرد و میزان دخالت انسان بستگی دارد. بنابراین، بهتر است نقش هوش مصنوعی در تولید اثر و سهم انسان در انتخاب، ویرایش و جهت دهی به آن روشن باشد.
۶. هزینه محاسباتی و مصرف منابع
آموزش و اجرای برخی مدلهای بزرگ به پردازنده های قدرتمند، حافظه محاسباتی و زیرساخت های گسترده نیاز دارد. مراکز داده هم برای فعالیت خود برق و سامانه های خنک کننده مصرف می کنند. میزان مصرف به عواملی مانند اندازه مدل، نوع سخت افزار و تعداد درخواست ها بستگی دارد.
بهینه سازی مدلها، استفاده از سخت افزارهای کارآمدتر و مدیریت بهتر زیرساخت ها می تواند قسمتی از هزینه ها و آثار محیط زیست را کم کند. همه مدلها به منابع یکسان نیاز ندارند و مصرف آنها را باید باتوجه به نوع و شیوه استفاده بررسی کرد.
۷. دشواری توضیح برخی تصمیم ها
برخی سامانه های پیچیده را دشوار می توان توضیح داد؛ یعنی ممکنست روشن نباشد چرا یک ورودی به نتیجه مشخصی منتج شده است. به چنین سیستمهایی گاهی «جعبه سیاه» گفته می شود.
این مساله در کاربردهای حساس اهمیت زیادی دارد. فرض کنید سامانه ای درخواست وام فردی را رد کند، اما نهاد استفاده کننده نتواند دلیل تصمیم را بررسی یا توضیح دهد. در چنین شرایطی، تشخیص خطا و اعتراض به نتیجه دشوار می شود.
البته همه سامانه های هوش مصنوعی به یک اندازه غیرقابل توضیح نیستند. میزان شفافیت به نوع مدل، نحوه طراحی و ابزارهای ارزیابی بستگی دارد. مؤسسه ملی استاندارد و فناوری آمریکا (NIST) هم در چهارچوب مدیریت ریسک هوش مصنوعی، خصوصیت هایی مانند قابلیت اطمینان، شفافیت، توضیح پذیری و مدیریت سوگیری را از موضوعات مهم می داند.
۸. محدودیت در تصمیم گیری اخلاقی و مسئولیت پذیری
هوش مصنوعی می تواند برمبنای قواعد و الگوهای آموخته شده، گزینه ها را ارزیابی کند؛ اما مسئولیت استفاده از نتیجه آن همچنان بر عهده انسان ها و نهادهای مرتبط می باشد.
اگر سامانه ای در استخدام، تخصیص منابع یا ارایه خدمات تصمیمی نادرست یا تبعیض آمیز بگیرد، باید روشن باشد چه کسانی مسئول طراحی، نظارت و استفاده از آن بوده اند. در کاربردهای حساس، ثبت فرآیند تصمیم گیری، امکان اعتراض و نظارت انسانی اهمیت ویژه ای دارد.
۹. اطلاعات قدیمی یا ناقص
اگر یک مدل به منابع به روز دسترسی نداشته باشد، ممکنست در رابطه با رویدادهای تازه، آمار جدید یا تغییرات قانونی اطلاعات ناقص ارائه نماید. حتی اتصال به منابع اینترنتی هم به تنهایی درستی اطلاعات را تضمین نمی کند؛ منابع باید از نظر اعتبار و تاریخ انتشار بررسی شوند.
برای عناوینی که به سرعت تغییر می کنند، مانند قوانین، اخبار و اطلاعات پزشکی، مراجعه به منابع رسمی و به روز ضروریست.
چگونه از محدودیت های هوش مصنوعی آگاهانه تر استفاده کنیم؟
راهکار مناسب، اعتماد کامل به خروجی هوش مصنوعی یا کنارگذاشتن کامل آن نیست. می توان با رعایت چند نکته، احتمال خطا و سوءاستفاده را کاهش داد:
پاسخ های مربوط به سلامت، قانون، امور مالی و تصمیم های مهم را با منابع معتبر بررسی کنید. از هوش مصنوعی بعنوان ابزار کمکی استفاده کنید، نه مرجع نهائی در تصمیم های حساس. در صورت امکان، در رابطه با داده های مورد استفاده و شیوه تصمیم گیری سامانه پرس وجو کنید. خروجی را متناسب با کاربرد آن ارزیابی کنید؛ خطای یک پیشنهاد سرگرمی با خطای یک ارزیابی استخدامی پیامد یکسانی ندارد. در کاربردهای حساس، امکان نظارت انسانی و اعتراض به تصمیم را درنظر بگیرید. جمع بندی
هوش مصنوعی ابزاری قدرتمند برای پردازش اطلاعات، تولید محتوا و پشتیبانی از تصمیم گیری است؛ اما ممکنست زمینه را اشتباه بفهمد، اطلاعات نادرست تولید نماید یا از داده های نامتوازن نتیجه ای سوگیرانه بگیرد. هزینه محاسباتی و دشواری توضیح برخی تصمیم ها هم از دیگر چالش های این فناوری است.
شناخت این محدودیت ها به معنای بی فایده دانستن هوش مصنوعی نیست. استفاده مؤثر از آن به ارزیابی متناسب با میزان خطر، بررسی پاسخ های مهم و مشخص بودن مسئولیت انسان ها و سازمان های استفاده کننده نیاز دارد. هوش مصنوعی می تواند در خیلی از کارها کمک کننده باشد، اما در تصمیم های مهم، نظارت و قضاوت انسانی همچنان اهمیت دارد.
57
منبع: websec.ir
اگر پسندیدید لاک کنید:
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان سایت امن در مورد این مطلب