কৃত্রিম বুদ্ধিমত্তাভিত্তিক (এআই) চ্যাটবট রোগীকে খুশি করতে গিয়ে অনেক সময় ভুল তথ্য দিতে পারে। প্রতি বছর ২৩ কোটির বেশি মানুষ স্বাস্থ্য সংক্রান্ত সমস্যায় এ ধরনের চ্যাটবটের সাহায্য নেন। যদিও এগুলো দ্রুত ও সুবিধাজনক তবু সঠিক মনে হলেও ব্যবহারকারীদের ভুল পথে পরিচালনা করতে পারে।

ডিউক ইউনিভার্সিটি স্কুল অব মেডিসিনের কম্পিউটার বিজ্ঞানী ও সহকারী অধ্যাপক মনিকা আগরওয়াল রোগী ও এআই চ্যাটবটের হাজার হাজার কথোপকথন বিশ্লেষণ করছেন। দেখা গেছে, রোগীদের প্রশ্ন প্রায়শই আবেগপ্রবণ ও ঝুঁকিপূর্ণ হয় যা চ্যাটবটকে মানুষকে খুশি করতে প্ররোচিত করে।

আগরওয়াল বলেন, চ্যাটবট মূলত ব্যবহারকারী পছন্দ করবে এমন উত্তর দিতে চায়। ফলে অনেক সময় ক্ষতিকর পরামর্শও দেয়।

ডিউক হেলথের চিকিৎসক আয়মান আলী মনে করেন, চ্যাটবট চিকিৎসা তথ্য সহজলভ্য করেছে, কিন্তু তথ্যের গভীরতা কমিয়ে দিয়েছে। আগরওয়াল পরামর্শ দিচ্ছেন, চিকিৎসা সংক্রান্ত চ্যাটবটকে প্রাথমিক সহায়তা হিসেবে ব্যবহার করা উচিত, চূড়ান্ত সিদ্ধান্ত হিসেবে নয়। ব্যবহারকারীদের সবসময় বিশ্বস্ত সূত্র যাচাই করতে হবে।