Là con người, khó tránh khỏi việc đôi khi chúng ta sẽ thấy những điều không tồn tại. Trong tâm lý học, người ta gọi đó là ảo giác. Trí tuệ nhân tạo (AI) cũng có thứ 'ảo giác' khi chúng tạo ra kết quả không tồn tại trong thực tế, thậm chí vô nghĩa hoặc sai lệch, nói cách khác là hệ thống đã 'nhìn thấy' hoặc 'nghĩ ra' thứ chưa từng có và có thể không bao giờ có. Điều này thường dễ xảy ra với các hệ thống nhận dạng hình ảnh, với kết quả đầu ra là những thứ kỳ quái, siêu thực.
Các mô hình ngôn ngữ lớn phản ánh định kiến có thể dẫn đến lời khuyên chăm sóc sức khỏe kém hơn cho bệnh nhân nữ, hoặc đối với một số trường hợp ở các khu vực, châu lục khác nhau.
Nhiều nghiên cứu cảnh báo công cụ AI y tế có thể hạ thấp triệu chứng của phụ nữ và bệnh nhân da màu, dẫn đến nguy cơ chẩn đoán và điều trị kém chính xác.