دراسة أجراها باحثون من جامعة براون تشير إلى أن العديد من روبوتات الدردشة لا تلتزم المعايير الأخلاقية الأساسية المتبعة في مجال الصحة النفسية. وقد قارن الباحثون سلوك هذه النماذج بمعايير جهات مهنية متخصصة، مثل الجمعيات النفسية، وخلصوا إلى وجود قصور واضح. وبيّنت الدراسة أن الروبوتات قد تعزز المعتقدات السلبية لدى المستخدمين، أو تخلق شعوراً زائفاً بالتعاطف، فضلاً عن ضعف تعاملها مع المواقف الحرجة.
وسلّط الباحثون الضوء على دور صياغة الأوامر في توجيه استجابات الذكاء الاصطناعي، بحيث يمكن للمستخدم أن يطلب من النظام محاكاة أساليب علاجية مثل العلاج السلوكي المعرفي. إلا أن هذه المحاكاة تظل قائمة على أنماط لغوية متعلمة، ولا ترقى إلى مستوى الممارسة العلاجية البشرية الفعلية.
كما كشفت الدراسة عن خمسة عشر خطراً أخلاقياً رئيسياً، شملت غياب فهم السياق الفردي، والحوار الأحادي، والتحيزات الثقافية والجندرية، وضعف الاستجابة للأزمات مثل الأفكار الانتح
