มีข้อถกเถียงน่าสนใจเกี่ยวกับ Google Assistant ที่สามารถคุยโทรศัพท์แทนคนได้ ว่าการที่ให้ AI คุยกับปลายสายที่คน โดยคนนั้นไม่รู้ตัวว่ากำลังคุยกับอะไรนั้นเป็นเรื่องน่ากังวล สร้างความสับสนแก่มนุษย์ และ AI อาจถูกใช้ในทางที่ผิด
การที่ Google Assistant เริ่มมีความใกล้เคียงมนุษย์มากขึ้น มาจากเทคโนโลยี Google Duplex ที่สามารถรองรับความซับซ้อนของภาษาได้มากกว่า Assistant ตามปกติ ผ่านการฝึกฝนจากบทสนทนาในคลังเป็นจำนวนมาก
บล็อกของ Lauren Weinstein นักกิจกรรมเรียกร้องประเด็นต่างๆ ที่เกี่ยวข้องกับอินเทอร์เน็ต (ผู้ร่วมก่อตั้ง PFIR - People For Internet Responsibility) ตั้งคำถามถึงเรื่องนี้ว่า การที่คนคุยกับ AI โดยไม่รู้ว่าปลายสายไม่ใช่คนนั้น ถูกต้องตามหลักจริยธรรมหรือไม่ ที่ผ่านมามนุษย์สื่อสารกับ AI ได้อย่างสบายใจตราบใดที่พวกเขารู้ว่ากำลังคุยกับอะไร และไม่ว่าผู้สร้างเทคโนโลยีจะตั้งใจหรือไม่ การที่คนไม่รู้ว่าคุยกับ AI นั้นดูคล้ายกับการหลอกลวง
Weinstein บอกเพิ่มเติมว่ายังพอมีทางแก้ปัญหาด้วยการป้อนคำเตือนให้ปลายสายที่เป็นคนรู้ตั้งแต่เริ่มการสนทนาว่า คุณกำลังคุยกับระบบอัตโนมัติ ป้องกันไว้ก่อนก่อนที่จะเป็นปัญหาในอนาคต จะช่วยให้เทคโนโลยีนี้ได้รับการยอมรับอย่างชอบธรรม