تصور کنید از هوش مصنوعی بپرسید شعری از شاهنامه برایتان پیدا کند و در پاسخ شاهکاری ادبی دریافت کنید که حتی فردوسی هم از وجودش بی خبر است! چت بات ها گاهی به جای پاسخ های دقیق خلاقیتشان را به رخ می کشند.
خبرگزاری گولوپ- محمدامین پورحسینقلی: چت بات ها به عنوان ابزار های هوش مصنوعی به کاربرانی که به دنبال اطلاعات یا خدمات خاص هستند کمک می کنند. این برنامه ها با استفاده از زبان طبیعی و یادگیری ماشین توانایی پاسخ گویی به سوالات ارائه مشاوره و حتی انجام معاملات آنلاین را دارند. با پیشرفت فناوری چت بات ها در کسب وکار ها و در زندگی روزمره نقش مهمی ایفا می کنند و تجربه تعاملات دیجیتال را بهبود می بخشند.
چند وقت پیش وقتی از چت جی پی تی خواستم شعری از شاهنامه برایم پیدا کند خیلی سریع و با اعتمادبه نفسی قابل تحسین شروع به تایپ کرد. شعری پر از واژگان فاخر وزن و قافیه ای بی نقص! اما بعداً که به نسخه اصلی شاهنامه مراجعه کردم فهمیدم فردوسی بی خبر از این شاهکار تازه شاید در گوشه ای از تاریخ در حال خندیدن است! چرا؟ چون این شعر اصلاً وجود نداشت. شاید بپرسید چرا هوش مصنوعی به من دروغ گفت؟ سوالی است که من هم از خودم پرسیدم!
چرا چت بات ها دروغ می گویند؟
اول از همه باید بگویم که هوش مصنوعی مثل آن دوست بااعتمادبه نفس شماست که اگر چیزی نداند باز هم طوری جواب می دهد که انگار همه چیز را می داند. دلیل اصلی این رفتار چیزی به نام “مدل زبانی” است. چت بات ها مثل یک کتابخانه عظیم پر از اطلاعات هستند اما برخلاف انسان ها آنها نمی توانند بگویند نمی دانم؛ چون برنامه ریزی شده اند تا همیشه جوابی برای شما داشته باشند حتی اگر جوابشان تخیلی باشد.
چت بات ها بر اساس احتمالات کار می کنند. مثلاً وقتی شما می گویید شعری از شاهنامه درباره فلان موضوع پیدا کن مدل زبانی آنها تلاش می کند کلماتی را که معمولاً در کنار هم در متون فارسی دیده است به ترتیب بچیند. اگر چنین شعری واقعاً وجود داشته باشد شانس خوبی برای ارائه پاسخ درست دارد. اما اگر آن شعر وجود نداشته باشد چت بات به سبک فردوسی دست به کار می شود و خودش شعری سرهم می کند.
البته این فقط به شعر ختم نمی شود. اگر بگویید آیا خورشید از شب زنده داری خسته می شود؟ ممکن است پاسخ بدهد بر اساس نظریه ای قدیمی خورشید در حال چرخیدن در آسمان خسته می شود و به همین دلیل غروب می کند؛ که البته یک جواب بی معنی اما جذاب است.
دروغ گویی چت بات ها: عمدی یا تصادفی؟
اگر می خواهید از چت بات ها استفاده کنید باید مثل کارآگاهی عمل کنید که همیشه به دنبال تأیید صحت اطلاعات است. اگر چت بات به شما اطلاعاتی می دهد آن را با منابع دیگر مقایسه کنید. اگر شعری از شاهنامه ارائه می دهد به نسخه اصلی شاهنامه سر بزنید (و البته اگر شعر را پیدا نکردید بدانید که فردوسی هیچ وقت برای چت بات ها شعری ننوشته است!).
چت بات ها ذاتاً دروغ گو نیستند. آنها فقط تلاش می کنند تا چیزی شبیه حقیقت ارائه دهند. مشکل اینجاست که این مدل ها هیچ ایده ای درباره درست یا غلط بودن اطلاعات ندارند. در واقع آنها نمی توانند بگویند آیا این اطلاعات علمی است یا صرفاً یک داستان خیالی؟
برای مثال اگر از آنها بپرسید آیا زمین تخت است؟ ممکن است بسته به نحوه سؤالتان پاسخ های مختلفی بدهند. اگر سؤالتان شبیه یک باور باشد ممکن است با شما همراهی کنند و نظریه ای تخیلی درباره تخت بودن زمین بدهند. این همان نقطه ای است که چت بات ها به خطرناک ترین فیلسوفان تاریخ تبدیل می شوند!
چرا این رفتار اتفاق می افتد؟
۱. برنامه ریزی برای همیشه جواب دادن:
چت بات ها طراحی شده اند تا با ارائه پاسخ شما را راضی کنند. حتی اگر اطلاعات موجود نباشد تلاش می کنند چیزی بسازند که قانع کننده به نظر برسد.
۲. نبود حس شک و تردید:
چت بات ها هیچ وقت نمی گویند امکان دارد این اشتباه باشد. چون آنها هیچ گونه آگاهی درباره میزان صحت پاسخ هایشان ندارند.
۳. کمبود زمینه واقعی:
مدل های هوش مصنوعی نمی توانند مانند ما انسان ها زمینه های مختلف را تشخیص دهند. برای آنها شعر فردوسی با یک پیامک طنز فرق زیادی ندارد!
چگونه باید با دروغ های چت بات ها برخورد کرد؟
اگر می خواهید از چت بات ها استفاده کنید باید مثل کارآگاهی عمل کنید که همیشه به دنبال تأیید صحت اطلاعات است. اگر چت بات به شما اطلاعاتی می دهد آن را با منابع دیگر مقایسه کنید. اگر شعری از شاهنامه ارائه می دهد به نسخه اصلی شاهنامه سر بزنید (و البته اگر شعر را پیدا نکردید بدانید که فردوسی هیچ وقت برای چت بات ها شعری ننوشته است!).
دروغ گویی چت بات ها شاید گاهی خنده دار و گاهی خسته کننده باشد اما نباید فراموش کنیم که آنها ابزار هایی هستند که به ما کمک می کنند نه آنکه جایگزین ما شوند. وقتی از هوش مصنوعی سؤال می پرسید همیشه یادتان باشد که این فناوری هنوز نمی تواند مثل انسان ها درباره درست یا غلط بودن اطلاعات فکر کند. پس اگر چت باتی به شما شعری خیالی داد به جای عصبانیت لبخند بزنید و بگویید خلاقیتت عالیه ولی کمی از واقعیت هم الهام بگیر
آیا شما به دنبال کسب اطلاعات بیشتر در مورد "وقتی هوش مصنوعی شاعر می شود؛ دروغ های شیرین چت بات ها" هستید؟ با کلیک بر روی اجتماعی، به دنبال مطالب مرتبط با این موضوع هستید؟ با کلیک بر روی دسته بندی های مرتبط، محتواهای دیگری را کشف کنید. همچنین، ممکن است در این دسته بندی، سریال ها، فیلم ها، کتاب ها و مقالات مفیدی نیز برای شما قرار داشته باشند. بنابراین، همین حالا برای کشف دنیای جذاب و گسترده ی محتواهای مرتبط با "وقتی هوش مصنوعی شاعر می شود؛ دروغ های شیرین چت بات ها"، کلیک کنید.
