এআই হ্যালুসিনেশনের উদাহরণ: ৪টি বাস্তব ঘটনা আর ধরার উপায়

এআই হ্যালুসিনেশন হলো এমন উত্তর, যা শুনতে নিশ্চিত মনে হয় কিন্তু ভুল, অথবা যার পেছনে কিছুই নেই: যে মামলার কখনো রায়ই হয়নি, যে উক্তি কেউ করেনি, দুই বছর এদিক-ওদিক হয়ে যাওয়া একটা তারিখ। মডেল ইচ্ছে করে মিথ্যা বলছে না। সে বিশ্বাসযোগ্য শব্দ অনুমান করছে, আর বানানো তথ্য ঠিক আসল তথ্যের মতোই দেখায়। নিচে চারটি নথিভুক্ত ঘটনা, সেগুলোর মিল, আর যেকোনো এআই খসড়া পাঠানোর আগে চালানোর মতো একটা ছোট যাচাই দিলাম।

এআই হ্যালুসিনেশনের চারটি বাস্তব উদাহরণ

১. বানানো মামলায় ভরা আইনি আবেদন (২০২৩)। নিউইয়র্কের দুজন আইনজীবী Mata v. Avianca মামলায় এমন একটি আবেদন জমা দেন, যাতে ChatGPT-র বানানো আদালতের রায়ের উল্লেখ ছিল। ২২ জুন ২০২৩ তারিখে বিচারক P. Kevin Castel আইনজীবী দুজন ও তাঁদের ফার্মকে ৫,০০০ ডলার জরিমানা করেন এবং অসদুদ্দেশ্য পেয়েছেন বলে রায় দেন: মামলাগুলো যে ভুয়া তার লক্ষণ তাঁরা জেনেবুঝে উপেক্ষা করেছিলেন এবং আদালতকে বিভ্রান্তিকর কথা বলেছিলেন। বিচারক বলেন, নির্ভরযোগ্য এআই টুলের সাহায্য নেওয়ায় মূলত অন্যায় কিছু নেই। ভুলটা ছিল, টুলটি যা তৈরি করেছে তা যাচাই না করা।

২. রিফান্ডের নিয়ম বানিয়ে ফেলা চ্যাটবট (২০২৪)। Air Canada-র একটি চ্যাটবট এক গ্রাহককে বলেছিল, ভ্রমণের পরেও তিনি শোকজনিত ভাড়া ছাড়ের আবেদন করতে পারবেন। অথচ এয়ারলাইনের নিজের ওয়েবসাইটে লেখা ছিল, ইতিমধ্যে হয়ে যাওয়া ভ্রমণের জন্য রিফান্ড মেলে না। ২০২৪ সালের ফেব্রুয়ারিতে ব্রিটিশ কলাম্বিয়ার একটি ট্রাইব্যুনাল চ্যাটবটের কথার জন্য Air Canada-কেই দায়ী করে এবং বটটি আলাদা একটি সত্তা, এই যুক্তি নাকচ করে দেয়। গ্রাহকের সামনে থাকা টুলের হ্যালুসিনেশন আপনার নিজের বক্তব্য হয়ে যায়।

৩. ভুয়া সূত্রসহ পরামর্শক প্রতিবেদন (২০২৫)। Deloitte Australia কর্মসংস্থান ও কর্মক্ষেত্র সম্পর্ক বিভাগের জন্য যে পর্যালোচনা তৈরি করেছিল, তাতে বানানো রেফারেন্স ও আদালতের একটি ভুয়া উদ্ধৃতি ছিল। একজন শিক্ষাবিদ লক্ষ করেন, উল্লিখিত কিছু কাজের অস্তিত্বই নেই। Deloitte প্রতিবেদনটি সংশোধন করে, জানায় যে তারা একটি জেনারেটিভ এআই মডেল ব্যবহার করেছিল, এবং ৪,৪০,০০০ অস্ট্রেলীয় ডলারের চুক্তির শেষ কিস্তি ফেরত দিতে রাজি হয়। পর্যালোচনা প্রক্রিয়া থাকা পেশাদার দলও এটা ধরতে পারেনি।

৪. ভুল "প্রথম" দাবিসহ প্রোডাক্ট ডেমো (২০২৩)। Google-এর Bard চ্যাটবট চালুর প্রচারণায় বটটি বলেছিল, সৌরজগতের বাইরের কোনো গ্রহের একেবারে প্রথম ছবি তুলেছে জেমস ওয়েব স্পেস টেলিস্কোপ। জ্যোতির্বিজ্ঞানীরা দেখিয়ে দেন যে প্রথম এক্সোপ্ল্যানেটের ছবি এসেছিল ২০০৪ সালে অন্য একটি টেলিস্কোপ থেকে, আর সেদিনই Alphabet-এর শেয়ারের দাম পড়ে যায়। বাক্যটি ছিল মসৃণ, নির্দিষ্ট এবং বিশ্বাস করা সহজ। এই ধরনের ভুল ধরা কঠিন হয় ঠিক সে কারণেই।

এই ঘটনাগুলোর মিল কোথায়

প্রতিটি ভুলই লুকিয়ে ছিল দেখতে স্বাভাবিক লেখার ভেতরে। চারটি ধরন বারবার ফিরে আসে:

• নামসহ নির্দিষ্ট তথ্য। মামলার নাম, প্রতিবেদনের শিরোনাম, লেখক আর উদ্ধৃতি। রেফারেন্স আছে কি না, সেটা না দেখে শুধু চেহারায় ঠিক মনে হয়।
• সর্বোচ্চ আর "প্রথম" দাবি। "প্রথম", "একমাত্র", "সবচেয়ে বড়"। শুনতে প্রামাণিক, আর ভুল হওয়াও সহজ।
• নিয়ম ও নীতি। রিফান্ডের শর্ত, আইনি সীমা, শেষ তারিখ। মডেল ফাঁকটা ভরে দেয় এমন কিছু দিয়ে, যা ওই ধরনের নিয়ম সম্ভবত বলত।
• কেউ সূত্রটা খুলে দেখেনি। প্রতিটি ক্ষেত্রেই দাবিটা দুই মিনিটের সার্চেই ধরা পড়ত।

নিজের খসড়ার জন্য পাঁচ মিনিটের যাচাই

এর জন্য আলাদা কোনো টুল লাগে না। ইমেইল থেকে রিপোর্ট পর্যন্ত এআইয়ের সাহায্যে লেখা যেকোনো খসড়ায় এটা কাজ করে।

1. যাচাইযোগ্য প্রতিটি দাবি হাইলাইট করুন। নাম, সংখ্যা, তারিখ, উদ্ধৃতি, "প্রথম/একমাত্র/সবচেয়ে" ধরনের কথা, নিয়ম, দাম, আর যেখানে কোনো সূত্র দেওয়া আছে।
2. ভুল হলে ক্ষতি হবে এমনগুলো চিহ্নিত করুন। ক্লায়েন্টকে দেওয়া সংখ্যা বা আইনি রেফারেন্স কোনো সাধারণ পর্যবেক্ষণের চেয়ে অনেক বেশি গুরুত্বপূর্ণ।
3. প্রতিটির সূত্র খুলে দেখুন। হুবহু শিরোনাম, মামলার নাম বা উদ্ধৃতিটি সার্চ করুন। মডেল লিংক দিলে সেটা খুলে দেখুন, দাবিটিকে সমর্থন করার লাইনটা পড়ুন।
4. "খুঁজে পাইনি"-কেও একটা ফলাফল ধরুন। একই কথা বলা কোনো সূত্র না পেলে দাবিটা বাদ দিন, অনিশ্চিত হিসেবে নতুন করে লিখুন, অথবা এমন কিছু দিয়ে বদলে দিন যার সূত্র দেখাতে পারবেন।
5. ঠিক করা লেখাটা আবার পড়ুন। সংশোধনে প্রায়ই জোড়ার জায়গাগুলো খটমটে হয়ে যায়, আর নির্ভুল খসড়া শুনতে আপনার নিজের মতোও হওয়া উচিত।

আরও বিস্তারিত সংস্করণ চান, যেখানে মডেলকে নিজের সন্দেহগুলো তালিকা করতে বলার প্রম্পট আছে? দেখুন আমাদের ChatGPT-র তথ্য যাচাইয়ের ৬ ধাপের চেকলিস্ট। আর আপনার চিন্তা যদি লেখা সত্য কি না তা নিয়ে নয়, কেমন শোনাচ্ছে তা নিয়ে হয়, তাহলে লেখায় এআইয়ের অভ্যাস ধরার ১০ পয়েন্টের চেকলিস্ট সেই দিকটা দেখে।

Unflag-এ এটা করা

দাবি অনেক থাকলে প্রথম ধাপটা আপনার হয়ে ফ্যাক্ট চেক করে দেয়। এটি Unflag Plus-এর অংশ, তাই ফ্রি অ্যাকাউন্টে ব্যবহার করা যায় না।

1. ফ্যাক্ট চেক খুলে সাইন ইন করুন। ওয়েবে অন্তত ৫০টি শব্দ লাগে, আর Plus-এ প্রতিবারে ১০,০০০ অক্ষর পর্যন্ত দেওয়া যায়।
2. এআই খসড়াটি পেস্ট করে যাচাই চালান।
3. Unflag আপনার লেখার দাবিগুলো আলাদা করে প্রতিটির জন্য ওয়েবে সার্চ করে। আপনি পাবেন সামগ্রিক আত্মবিশ্বাসের স্কোর, একটি সারাংশ, প্রতিটি দাবির বিশ্লেষণ এবং সূত্র।
4. প্রতিটি দাবি একটি রায় পায়: সত্য, মিথ্যা, আংশিক সত্য, বিভ্রান্তিকর অথবা যাচাই অযোগ্য।
5. গুরুত্বপূর্ণ যেকোনো কিছুর পেছনের সূত্রগুলো খুলে দেখুন। "যাচাই অযোগ্য" মানে ঠিক তা-ই, "মিথ্যা" নয়। আর রায় হলো যাচাই শুরু করার একটা ইঙ্গিত, মূল সূত্র পড়ার বিকল্প নয়।
6. খসড়াটি ঠিক করুন, তারপর স্বাভাবিক শোনানোর জন্য পুনরায় লিখুন অথবা এআই হিউম্যানাইজ করুন ব্যবহার করুন। এআই হিউম্যানাইজ করুন দাম ও শতাংশের মতো সংখ্যা ধরে রাখার চেষ্টা করে, তবু যেকোনো রিরাইটের পরে সংখ্যাগুলো আবার মিলিয়ে নিন।

২০২৬ সালের অক্টোবর অনুযায়ী ওয়েবে Unflag Plus মাসে ৮.৯৯ ডলার বা বছরে ৪৫.৯৯ ডলার। অ্যাপগুলোতে স্টোরের মাধ্যমে সাপ্তাহিক বা বার্ষিক বিল হয়।

নতুন এআই মডেলগুলো কি এখনো হ্যালুসিনেট করে?

হ্যাঁ, তবে কত ঘন ঘন, তা নির্ভর করে মডেল, বিষয় আর সে সার্চ করতে পারে কি না তার ওপর। যে মডেল ব্রাউজ করতে পারে বা আপনার দেওয়া সূত্র পড়তে পারে, সে স্মৃতি থেকে উত্তর দেওয়া মডেলের চেয়ে কম ভিত্তিহীন দাবি করে। কোনো নির্মাতাই বলছে না যে সমস্যা শেষ, তাই নাম, সংখ্যা আর উদ্ধৃতি যাচাই করার অভ্যাস এখনো কাজে লাগে। যে হারই দেখুন, সেটা নির্মাতা বা গবেষকের নিজের একটি পরীক্ষার সংখ্যা, আপনার খসড়া নিয়ে কোনো প্রতিশ্রুতি নয়।

দৈনন্দিন লেখায় হ্যালুসিনেশন কোথায় লুকায়

• অফিসের ইমেইল ও রিপোর্ট: পরিসংখ্যান, প্রতিযোগীদের তথ্য আর "ইন্ডাস্ট্রি স্ট্যান্ডার্ড" দাবি।
• কাভার লেটার ও বায়ো: মডেল নিজে থেকে বসিয়ে দেওয়া তারিখ, পদবি আর পুরস্কার।
• ব্লগ পোস্ট ও মার্কেটিং কপি: "গবেষণায় দেখা গেছে" ধরনের লাইন আর বানানো বিশেষজ্ঞের উক্তি।
• সারাংশ: এমন একটা কথা যোগ হয়ে যাওয়া, যা মূল সূত্র কখনো বলেনি।
• স্বাস্থ্য, আইন ও অর্থের বিষয়: প্রশ্ন তৈরি করতে এআই ব্যবহার করুন, আর উত্তরের জন্য যান যোগ্য পেশাজীবী বা সরকারি সূত্রের কাছে।

এই যাচাই যা পারে না

Unflag-সহ কোনো টুলই প্রতিটি ভুল ধরার নিশ্চয়তা দিতে পারে না। ওয়েবভিত্তিক ফ্যাক্ট চেকার যা খুঁজে পায় তার মধ্যেই সীমাবদ্ধ, আর একটি দাবি একই সাথে যাচাই অযোগ্য এবং সত্য হতে পারে। আপনার কোর্স, নিয়োগকর্তা বা প্রকাশকের এআই নীতি থাকলে সেটা মেনে চলুন, এআই সাহায্য করলে তা জানানোর নিয়ম থাকলে সেটাও।

আমরা কীভাবে এটা তৈরি করেছি

আমরা প্রতিটি ঘটনার প্রকাশিত প্রতিবেদন পড়েছি (Bloomberg Law, Daily Hive, TechRadar ও Space.com, ২০২৬ সালের অক্টোবর অনুযায়ী), ধাপগুলো Unflag-এর প্রোডাক্ট ও কোডে থাকা ফ্যাক্ট চেক প্রক্রিয়ার সাথে মিলিয়ে দেখেছি, এবং ২০২৬ সালের অক্টোবরের Unflag-এর দামও যাচাই করেছি। কিছু খুঁটিনাটিতে প্রতিবেদনগুলোর মধ্যে অমিল আছে, যেমন Air Canada ও Deloitte ঘটনার সঠিক অঙ্ক, তাই আমরা শুধু সেই সংখ্যাগুলোই উদ্ধৃত করেছি যাতে সব সূত্র একমত। চেকলিস্টটি এই পোস্টের জন্য লেখা হয়েছে এবং এর সাথে কোনো টুলের আউটপুট যুক্ত নেই।

সংক্ষেপে: হ্যালুসিনেশন দেখতে অন্য যেকোনো বাক্যের মতোই, তাই নাম, সংখ্যা, উদ্ধৃতি আর "প্রথম" দাবিগুলো নিজে মিলিয়ে দেখুন, আর হাতে খুঁজে শেষ করা যাবে না এত বেশি হলে ফ্যাক্ট চেক ব্যবহার করুন।

সচরাচর জিজ্ঞাসিত প্রশ্ন

এআই হ্যালুসিনেশন কী?

এআই হ্যালুসিনেশন হলো এমন আউটপুট, যা আত্মবিশ্বাসী শোনালেও ভুল বা ভিত্তিহীন: বানানো রেফারেন্স, ভুল তারিখ, যে উক্তি কেউ করেনি, কিংবা যে নিয়মের অস্তিত্বই নেই। মডেল শুধু বিশ্বাসযোগ্য শব্দ অনুমান করে, তাই বানানো তথ্য আসল তথ্যের মতোই দেখায়।

এআই হ্যালুসিনেশনের একটা উদাহরণ কী?

২০২৩ সালে নিউইয়র্কের দুজন আইনজীবী এমন একটি আবেদন জমা দেন, যাতে ChatGPT-র বানানো আদালতের মামলার উল্লেখ ছিল, আর একজন ফেডারেল বিচারক তাঁদের ৫,০০০ ডলার জরিমানা করেন। ২০২৫ সালে একটি পরামর্শক প্রতিষ্ঠান সরকারি প্রতিবেদনে বানানো রেফারেন্স ও আদালতের ভুয়া উদ্ধৃতি ধরা পড়ায় ফির একটা অংশ ফেরত দেয়।

এআই কেন বানিয়ে বলে?

ভাষা মডেল যাচাই করা তথ্য লেখে না, লেখে সবচেয়ে সম্ভাব্য পরের শব্দগুলো। শক্ত উত্তর না থাকলেও সে মসৃণ কিছু একটা তৈরি করে। রেফারেন্স, নির্দিষ্ট সংখ্যা, উদ্ধৃতি, সাম্প্রতিক ঘটনা আর যেসব বিষয়ে তার কাছে কম ডেটা আছে সেখানে সে সবচেয়ে বেশি ভুল করে।

ChatGPT হ্যালুসিনেট করছে কি না কীভাবে বুঝব?

কথার ধরন দেখে বোঝা যায় না, কারণ ভুল উত্তরও ঠিক উত্তরের মতোই নিশ্চিত শোনায়। যা যাচাই করা যায় তা খুঁজুন: নাম, সংখ্যা, তারিখ, উদ্ধৃতি ও সূত্র। প্রতিটি চ্যাটের বাইরে গিয়ে সার্চ করুন। একই কথা বলা কোনো সূত্র না পেলে দাবিটিকে অনিশ্চিত ধরুন।

এআই হ্যালুসিনেশন কি পুরোপুরি ঠিক করা যায়?

পুরোপুরি নয়। মডেলকে আসল সূত্র দেওয়া আর সার্চ করতে দিলে ভুল কমে, কিন্তু একেবারে যায় না। নির্ভরযোগ্য সমাধান হলো মানুষের ধাপ: গুরুত্বপূর্ণ দাবিগুলো বের করুন, মূল সূত্রের সাথে মিলিয়ে দেখুন, আর যা নিশ্চিত করতে পারলেন না তা ঠিক করুন বা বাদ দিন।

Unflag কি এআই হ্যালুসিনেশন ধরতে পারে?

Unflag Plus-এর অংশ ফ্যাক্ট চেক লেখার ভেতরের দাবিগুলো আলাদা করে, প্রতিটির জন্য ওয়েবে সার্চ করে এবং একটি রায়, আত্মবিশ্বাসের স্কোর ও সূত্র দেয়। কিছু বাদ পড়তে পারে বা ভুলও হতে পারে, তাই গুরুত্বপূর্ণ কোনো দাবির ওপর ভরসা করার আগে সূত্রগুলো নিজে খুলে দেখুন।