อัลกอริทึมของ Apple Card ถูกหน่วยงานด้านการเงินของมลรัฐนิวยอร์ก (New York State Department of Financial Services) เข้าสอบสวนจากกรณีที่อัลกอริทึมอนุมัติวงเงินบัตรให้ลูกค้าโดยมีประเด็นด้านเพศเข้ามาเกี่ยวข้อง
ประเด็นนี้เกิดจากทวีตของ David Heinemeier Hansson ผู้พัฒนา Ruby on Rails ที่ทวีตว่าตัวเขาได้รับวงเงิน Apple Card มากกว่าภรรยา 20 เท่า ทั้ง ๆ ที่แต่งงานมานาน ทำธุรกรรมต่าง ๆ ร่วมกัน แม้แต่ยื่นขอคืนภาษีก็ยื่นในนามคู่สมรส เช่นเดียวกับ Steve Wozniak ผู้ก่อตั้ง Apple ที่ได้รับวงเงินมากกว่าภรรยา 10 เท่านั้น ทั้งที่มีทรัพย์สินและบัตรเครดิตร่วมกัน
ด้านโฆษกของ Goldman Sachs ธนาคารพาร์ทเนอร์ที่เป็นผู้ออกบัตร Apple Card ยืนยันว่าการอนุมัติวงเงิน ขึ้นอยู่กับความน่าเชื่อถือทางการเงินเป็นหลัก ไม่ได้มีปัจจัยด้านเพศ เชื้อชาติ อายุหรือแนวทางที่ผิดกฎหมายเข้ามาพิจารณาแน่นอน
หลัง DHH ทวีตประเด็นนี้ออกไป เขาทวีตต่อด้วยว่าอยู่ ๆ ภรรยาเขาก็ได้รับการปรับเครดิตวงเงินให้เท่ากับตัวเองแล้ว แต่มันไม่สามารถชดเชยข้อผิดพลาดและปัญหาที่เกิดกับอัลกอริทึมของ Apple Card ได้ นอกจากนี้ในเธรดทวีตดังกล่าวมีคนเข้ามาแบ่งปันประสบการณ์ในลักษณะเดียวกันเป็นจำนวนมากด้วย
นี่เป็นอีกหนึ่งกรณีของปัญหาอคติของอัลกอริทึม (Algorithmic Bias) ที่แม้ไม่มีใครรู้ว่าอัลกอริทึมทำงานยังไง ผลที่ออกมาควรจะเป็นกลาง แต่ในความเป็นจริงกลับมีความโน้มเอียงที่สะท้อนการเลือกปฏิบัติในสังคมที่เกิดขึ้นจริง
ที่มา: The New York Times