นักวิจัยกล่าวว่าการปรับแต่งโปรแกรมแมชชีนเลิร์นนิงอย่างง่ายสามารถขจัดความเหลื่อมล้ำได้
อัลกอริธึมที่ใช้กันอย่างแพร่หลายซึ่งช่วยให้โรงพยาบาลระบุผู้ป่วยที่มีความเสี่ยงสูงซึ่งอาจได้รับประโยชน์สูงสุดจากการเข้าถึงโปรแกรมการดูแลสุขภาพแบบพิเศษนั้นมีความลำเอียงทางเชื้อชาติ
การขจัดอคติทางเชื้อชาติในอัลกอริธึมนั้นสามารถเพิ่มกว่าสองเท่าของผู้ป่วยผิวดำที่มีสิทธิ์ได้รับโปรแกรมเฉพาะทางโดยอัตโนมัติ ซึ่งมุ่งเป้าไปที่การลดภาวะแทรกซ้อนจากปัญหาสุขภาพเรื้อรัง เช่น โรคเบาหวาน โรคโลหิตจาง และความดันโลหิตสูง รายงานของนักวิจัยในรายงานทางวิทยาศาสตร์ วัน ที่ 25 ตุลาคม
งานวิจัยชิ้นนี้ “แสดงให้เห็นว่าเมื่อคุณถอดรหัสอัลกอริธึมและเข้าใจแหล่งที่มาของอคติและกลไกที่อัลกอริทึมทำงาน คุณจะสามารถแก้ไขได้อย่างไร” David Magnus นักชีวจริยธรรมจากมหาวิทยาลัยสแตนฟอร์ดซึ่งไม่ได้มีส่วนร่วมในการศึกษากล่าว
เพื่อระบุว่าผู้ป่วยรายใดควรได้รับการดูแลเป็นพิเศษ ระบบการดูแลสุขภาพในทศวรรษที่ผ่านมาจึงต้องใช้อัลกอริธึมการเรียนรู้ด้วยเครื่อง ซึ่งศึกษาตัวอย่างในอดีตและระบุรูปแบบเพื่อเรียนรู้วิธีทำงานให้เสร็จลุล่วง
อัลกอริธึมการดูแลสุขภาพ 10 อันดับแรกในตลาด ซึ่งรวมถึง Impact Pro ซึ่งวิเคราะห์ในการศึกษานี้ ใช้ค่ารักษาพยาบาลในอดีตของผู้ป่วยเพื่อคาดการณ์ค่าใช้จ่ายในอนาคต ค่าใช้จ่ายที่คาดการณ์ไว้ถูกใช้เป็นตัวแทนความต้องการด้านการดูแลสุขภาพ แต่การใช้จ่ายอาจไม่ใช่ตัวชี้วัดที่แม่นยำที่สุด การวิจัยแสดงให้เห็นว่าแม้ผู้ป่วยผิวสีจะป่วยหรือป่วยมากกว่าคนผิวขาว พวกเขาก็ใช้จ่ายในการดูแลสุขภาพน้อยลง รวมถึงการไปพบแพทย์และยาที่ต้องสั่งโดยแพทย์ นักวิจัยกล่าวว่าความเหลื่อมล้ำดังกล่าวเกิดขึ้นได้จากหลายสาเหตุ รวมถึงการเข้าถึงบริการทางการแพทย์อย่างไม่เท่าเทียมและความคลางแคลงใจในอดีตในหมู่คนผิวสีของผู้ให้บริการด้านสุขภาพ ความไม่ไว้วางใจนั้นเกิดจากเหตุการณ์เช่นการทดลองทัสเคกี ( SN: 3/1/75) ซึ่งชายผิวดําที่เป็นซิฟิลิสหลายร้อยคนถูกปฏิเสธการรักษามานานหลายทศวรรษ
เป็นผลมาจากการวัดที่ผิดพลาดนี้
“คนที่ไม่ถูกต้องได้รับการจัดลำดับความสำคัญสำหรับโปรแกรม [การดูแลสุขภาพ] เหล่านี้” ผู้ร่วมวิจัย Ziad Obermeyer ผู้เชี่ยวชาญด้านการเรียนรู้ด้วยเครื่องและนโยบายด้านสุขภาพของ University of California, Berkeley กล่าว ความกังวลเกี่ยวกับอคติในอัลกอริธึมการเรียนรู้ด้วยเครื่องซึ่งขณะนี้ช่วยวินิจฉัยโรคและทำนายกิจกรรมทางอาญา ไม่ใช่เรื่องใหม่ ( SN: 9/6/17 ) แต่การแยกแหล่งที่มาของอคติได้พิสูจน์ให้เห็นถึงความท้าทาย เนื่องจากนักวิจัยแทบไม่สามารถเข้าถึงข้อมูลที่ใช้ในการฝึกอัลกอริทึมได้
อย่างไรก็ตาม Obermeyer และเพื่อนร่วมงานกำลังทำงานในโครงการอื่นกับโรงพยาบาลวิชาการ (ซึ่งนักวิจัยปฏิเสธที่จะตั้งชื่อ) ที่ใช้ Impact Pro และตระหนักว่าข้อมูลที่ใช้ในการทำให้อัลกอริทึมนั้นทำงานอยู่บนเซิร์ฟเวอร์ของโรงพยาบาล
ดังนั้นทีมจึงวิเคราะห์ข้อมูลเกี่ยวกับผู้ป่วยที่เป็นแพทย์ปฐมภูมิที่โรงพยาบาลนั้นระหว่างปี 2556 ถึง 2558 และขยายเข้าไปที่ผู้ป่วย 43,539 รายที่ระบุตนเองว่าเป็นคนผิวขาว และ 6,079 รายระบุว่าเป็นคนผิวดำ อัลกอริทึมได้ให้คะแนนความเสี่ยงแก่ผู้ป่วยทุกรายที่ได้รับการประกันผ่านประกันส่วนตัวหรือ Medicare โดยอิงจากค่ารักษาพยาบาลในอดีต
ในทางทฤษฎีแล้ว ผู้ป่วยที่มีคะแนนความเสี่ยงเท่ากันควรมีความเจ็บป่วยเท่ากัน แต่นักวิจัยพบว่าในกลุ่มตัวอย่างของผู้ป่วยขาวดำ ผู้ป่วยผิวดำที่มีคะแนนความเสี่ยงเท่ากันกับผู้ป่วยผิวขาวโดยเฉลี่ยแล้วเป็นโรคเรื้อรังมากกว่า สำหรับคะแนนความเสี่ยงที่เกินเปอร์เซ็นไทล์ที่ 97 เช่น จุดที่ผู้ป่วยจะถูกระบุโดยอัตโนมัติสำหรับการลงทะเบียนในโปรแกรมเฉพาะทาง ผู้ป่วยผิวดำมีโรคเรื้อรังมากกว่าผู้ป่วยผิวขาว 26.3 เปอร์เซ็นต์ หรือโรคเรื้อรังเฉลี่ย 4.8 เมื่อเทียบกับผู้ป่วยผิวขาว ‘ 3.8. ผู้ป่วยน้อยกว่าหนึ่งในห้าที่อยู่เหนือเปอร์เซ็นไทล์ที่ 97 เป็นคนผิวดำ
Obermeyer เปรียบเสมือนการประเมินอคติของอัลกอริทึมกับผู้ป่วยที่รอเข้าแถวเพื่อเข้าสู่โปรแกรมเฉพาะทาง ทุกคนเข้าแถวตามคะแนนความเสี่ยงของพวกเขา แต่ “เพราะความลำเอียง” เขากล่าว “ผู้ป่วยผิวขาวที่มีสุขภาพดีกว่าจะแซงหน้าผู้ป่วยผิวดำ แม้ว่าผู้ป่วยผิวสีเหล่านี้จะป่วยมากขึ้นก็ตาม” เมื่อทีมของ Obermeyer จัดอันดับผู้ป่วยตามจำนวนการเจ็บป่วยเรื้อรังแทนการใช้จ่ายด้านการรักษาพยาบาล ผู้ป่วยผิวสีเปลี่ยนจากร้อยละ 17.7 ของผู้ป่วยที่สูงกว่าร้อยละ 97 เป็นร้อยละ 46.5
ทีมของ Obermeyer กำลังร่วมมือกับ Optum ผู้ผลิต Impact Pro เพื่อปรับปรุงอัลกอริทึม บริษัทได้จำลองการวิเคราะห์ใหม่อย่างอิสระและเปรียบเทียบปัญหาสุขภาพเรื้อรังในผู้ป่วยขาวดำในชุดข้อมูลระดับชาติของผู้ประกันตนเกือบ 3.7 ล้านคน จากคะแนนความเสี่ยง ผู้ป่วยผิวดำมีภาวะเรื้อรังมากกว่าผู้ป่วยผิวขาวเกือบ 50,000 ราย ซึ่งเป็นหลักฐานของอคติทางเชื้อชาติ การฝึกอัลกอริทึมใหม่เพื่อใช้ทั้งค่ารักษาพยาบาลในอดีตและตัวชี้วัดอื่นๆ รวมถึงเงื่อนไขที่มีอยู่ก่อนแล้ว ลดความเหลื่อมล้ำในภาวะสุขภาพเรื้อรังระหว่างผู้ป่วยขาวดำที่คะแนนความเสี่ยงแต่ละรายลง 84 เปอร์เซ็นต์
เนื่องจากมีโครงสร้างพื้นฐานสำหรับโปรแกรมเฉพาะทางอยู่แล้ว งานวิจัยชิ้นนี้จึงแสดงให้เห็นว่าการแก้ไขอัลกอริธึมการดูแลสุขภาพสามารถเชื่อมโยงผู้ป่วยที่ขาดแคลนที่สุดเข้ากับโปรแกรมได้อย่างรวดเร็ว Suchi Saria นักวิจัยด้านแมชชีนเลิร์นนิงและการดูแลสุขภาพของมหาวิทยาลัยจอห์น ฮอปกิ้นส์ กล่าว “ในช่วงเวลาสั้นๆ คุณสามารถขจัดความเหลื่อมล้ำนี้ได้”
