AI ตอบมั่นใจขนาดนี้ มันรู้ได้ไง…แล้วเราจะรู้ได้ไงว่ามันรู้จริง

เรื่อง: ว่าแล้วคุณต้องอ่าน

เมื่อวันก่อน ลูกสาวถามผมว่า ทำไมแมวถึงเลียตัวเองได้ทั้งตัว บางครั้งก็เลียไปถึงก้น แล้วมันไม่ท้องเสียเหรอ

ผมตอบไปตามประสาคนเป็นพ่อ ซึ่งบางครั้งต้องทำหน้าที่คล้ายสารานุกรมฉบับพกพา (แม้ข้อมูลภายในจะมีอยู่ไม่ครบทุกหมวด) ว่าร่างกายแมวคงไม่เหมือนร่างกายคน เชื้อโรคที่ทำให้คนป่วยอาจไม่ได้ทำให้แมวป่วยแบบเดียวกัน

คำตอบฟังดูพอมีเหตุผล แต่พูดกันตรง ๆ ผมก็ไม่รู้ว่าข้อเท็จจริงเป็นอย่างไร เราจึงเปิดแอปถาม AI กันอีกที

คำตอบมาแทบจะทันที มันอธิบายตั้งแต่พฤติกรรมทำความสะอาดตัวเอง ระบบภูมิคุ้มกัน จุลินทรีย์ในร่างกาย ไปจนถึงความแตกต่างระหว่างสัตว์กับมนุษย์ ทุกอย่างเรียงต่อกันราบรื่น น้ำเสียงมั่นคง ราวกับคำตอบนอนรออยู่แล้วในตำราสัตวแพทย์เล่มหนา เพียงแต่เราเพิ่งไปเคาะประตูเรียกมันออกมา

ลูกพยักหน้า แต่เรื่องยังไม่จบ เราสงสัยกันต่อว่า แล้วลิงซึ่งคล้ายคนมากกว่าแมว หยิบอาหารกินโดยไม่ล้างมืออยู่เป็นประจำ มันท้องเสียกันบ่อยไหม

AI ก็ตอบต่อได้อีก คราวนี้ยาวกว่าเดิมด้วย

ตรงนั้นเองที่ผมเริ่มสงสัย ไม่ใช่เรื่องแมว ลิง หรืออาการท้องเสีย แต่ชักสงสัยคำตอบที่กำลังอ่านอยู่

สิ่งที่ทำให้เอ๊ะไม่ใช่ว่าคำตอบมีอะไรผิดปกติ ตรงกันข้าม มันปกติเกินไป เรียบร้อยเกินไป และดูถูกต้องเสียจนผมไม่รู้ด้วยซ้ำว่าควรเริ่มสงสัยจากตรงไหน

ผมถาม AI ก็เพราะไม่รู้คำตอบ แต่เมื่อไม่รู้แล้ว ผมจะเอาอะไรไปตัดสินสิ่งที่มันตอบกลับมา

นี่เป็นสถานการณ์แปลก ๆ ที่เราเริ่มพบกันบ่อยขึ้น เรานำเรื่องที่ไม่รู้ไปถามเครื่องมือ ได้คำตอบที่ฟังเหมือนมาจากคนรู้จริง แล้วสุดท้ายกลับต้องใช้ความรู้ที่เราไม่มีมาตรวจคำตอบนั้นอีกที

คำถามเล็ก ๆ แบบนี้น่าจะเหมาะกับการเปิด “วารสารกลับหัว” คอลัมน์ใหม่ของวารสารเพรส ซึ่งจะสลับสับเปลี่ยนผู้เขียนทั้งขาประจำและขาจรมาพบท่านผู้อ่านทุกท่านรายสัปดาห์

พื้นที่นี้ตั้งใจหยิบเรื่องใกล้ตัว ข่าวในฟีด ปรากฏการณ์ทางสังคม วัฒนธรรม หรือความเชื่อที่ใคร ๆ พูดต่อกัน มาลองพลิกดูว่า สิ่งที่เราเรียกว่าความรู้นั้นมาจากไหน ตรงไหนเป็นข้อเท็จจริง ตรงไหนเป็นการตีความ และตรงไหนเป็นช่องว่างที่เรารีบใส่คำตอบลงไป เพราะทนปล่อยให้มันว่างอยู่ไม่ได้

เรื่องเดียวกัน เมื่อลองพลิกซ้าย พลิกขวา หรือกลับหัว บางครั้งมันอาจกลายเป็นอีกเรื่องหนึ่งไปเลย

กลับมาที่ AI…คำถามที่ค้างไว้คือ มันรู้ได้อย่างไร

ขอเล่าแบบไม่พาเดินหลงเข้าไปในป่าศัพท์เทคนิคว่า ระบบ AI ที่เราสนทนาด้วยพวกนี้เรียนรู้ความสัมพันธ์และแบบแผนจากข้อมูลจำนวนมาก แล้วสร้างคำตอบให้สอดคล้องกับคำถามและบริบท มันเก่งอย่างยิ่งในการนำถ้อยคำ ความคิด และข้อมูลมาเรียงต่อกันให้อ่านรู้เรื่อง ฟังสมเหตุสมผล และดูเหมือนมีคนคิดทุกอย่างไว้เรียบร้อยแล้ว

แต่ “สร้างคำตอบที่สมเหตุสมผล” กับ “ตรวจสอบแล้วว่าเป็นข้อเท็จจริง” เป็นคนละเรื่องกัน

ลองถามว่า 1+1 เท่ากับเท่าไร AI ล้ำสมันในยุคนี้ย่อมตอบว่า 2 ซึ่งแน่นอนว่าถูกด้วย แต่คำตอบที่ถูกยังไม่ได้บอกเราว่ามันเข้าใจความหมายของ “หนึ่ง” การรวมสิ่งสองสิ่งเข้าด้วยกัน หรือความเป็น “สอง” แบบเดียวกับมนุษย์

ผลลัพธ์ที่ถูกจึงยืนยันได้เพียงว่า คำตอบนั้นถูกในโจทย์นั้น ไม่ใช่ใบรับรองว่า AI เข้าใจโลกทั้งหมดที่ซ่อนอยู่หลังคำตอบ

AI บางระบบค้นเว็บไซต์ อ่านเอกสาร หรือแสดงแหล่งอ้างอิงได้ ความสามารถเหล่านี้ช่วยลดปัญหาได้มาก แต่ไม่ได้เสกให้ทุกประโยคถูกต้องขึ้นมาโดยอัตโนมัติ มันอาจอ่านเนื้อหาต้นทางคลาดเคลื่อน สรุปไกลกว่าข้อมูลที่มี เชื่อมสองเรื่องเข้าหากันทั้งที่หลักฐานยังไม่พอ หรือยกแหล่งอ้างอิงที่หน้าตาดี แต่เปิดดูแล้วกลับไม่ได้รองรับข้อความนั้น

ปัญหาไม่ใช่เพียงว่า AI อาจตอบผิด เพราะมนุษย์ หนังสือ สื่อมวลชน ตลอดจนญาติผู้ใหญ่ในวงอาหารเย็นก็ตอบผิดได้เหมือนกัน

เรื่องน่ากังวลกว่าคือ คำตอบที่ผิดของ AI มักแต่งตัวเหมือนคำตอบที่ถูก เสื้อผ้ารีดเรียบเนี๊ยบ เลือกคำดี แบ่งหัวข้อเป็นระเบียบ และพูดด้วยน้ำเสียงแทบไม่ลังเล เราจึงไม่มีไฟแดงกะพริบเตือนว่า ประโยคนี้มีหลักฐาน ส่วนอีกประโยคเป็นเพียงการเดาที่แต่งหน้ามาดี

แต่จะโทษ AI ฝ่ายเดียวก็คงไม่ถูกนัก มันพูดด้วยน้ำเสียงมั่นใจก็จริง แต่คนที่นำความมั่นใจนั้นไปแปลว่า “น่าเชื่อ” คือเราเอง

มนุษย์คุ้นเคยกับการใช้ความคล่องเป็นตราประทับแทนความรู้ คนที่ตอบฉะฉานมักดูเหมือนรู้จริง คนที่อธิบายเป็นขั้นเป็นตอนดูเหมือนคิดมารอบคอบแล้ว ขณะที่คนซึ่งใช้คำว่า “อาจจะ” หรือยอมรับว่า “ยังไม่แน่ใจ” กลับดูน่าเชื่อถือน้อยกว่า

ทั้งที่หลายครั้ง ความลังเลอาจไม่ได้เกิดจากการไม่รู้ แต่อาจเกิดจากการรู้ว่าความรู้ของตนเดินทางมาได้ไกลแค่ไหน และตรงไหนเป็นขอบผาที่ไม่ควรก้าวต่อ

AI เข้ามาพอดีกับจุดอ่อนนี้ มันไม่จำเป็นต้องมีเจตนาหลอกเรา เพียงพูดด้วยรูปแบบภาษาที่เราคุ้นว่าเป็นภาษาของคนรู้เรื่อง คำตอบจึงอาจผิดได้อย่างสุภาพ ผิดอย่างเป็นระบบ และผิดโดยไม่เสียกิริยา

ในงานวารสารศาสตร์ เราพบปัญหาคล้ายกันอยู่เสมอ แหล่งข่าวบางคนพูดอย่างมั่นใจ มีตำแหน่งใหญ่ เสียงทุ้ม และห้องทำงานกว้างพอวางความน่าเชื่อถือได้เป็นตั้ง แต่คุณสมบัติเหล่านั้นไม่เคยทำให้ข้อมูลกลายเป็นข้อเท็จจริงขึ้นมาเอง

นักข่าวจึงไม่ควรถามเพียงว่า “คุณรู้อะไร” แต่ต้องถามต่ออีกว่า “คุณรู้ได้อย่างไร”

เห็นด้วยตัวเองหรือได้ยินต่อมา มีเอกสารรองรับหรือไม่ ส่วนใดเป็นสิ่งที่เกิดขึ้นแล้ว ส่วนใดเป็นข้อสันนิษฐาน มีใครตรวจสอบยืนยันได้อีก และผู้พูดมีผลประโยชน์เกี่ยวข้องกับเรื่องนั้นหรือเปล่า

เมื่อลองเปลี่ยนคำว่า “แหล่งข่าว” เป็น “AI” คำถามเหล่านี้ก็ยังใช้ได้แทบทั้งหมด

เวลาผมได้รับคำตอบจาก AI จึงพยายามแยกอย่างน้อย 2 ชั้น

ชั้นแรกคือข้อมูลที่ตรวจกลับไปยังต้นทางได้ เช่น ชื่อบุคคล ตัวเลข วันที่ งานวิจัย คำพิพากษา หรือข้อความอ้างอิง สิ่งเหล่านี้ไม่ควรหยุดอยู่ที่หน้าต่างสนทนา

ชั้นสุดท้ายคือสิ่งที่ยังตรวจไม่ได้ หรือหลักฐานยังไม่พอ ในกรณีเช่นนี้ คำว่า “ยังไม่ยืนยัน” อาจไม่ไพเราะและไม่ให้ความรู้สึกว่าทุกอย่างจบลงอย่างสมบูรณ์ แต่ก็ซื่อตรงกว่าการเอาถ้อยคำสวย ๆ ไปปูทับหลุมที่เรายังไม่รู้ว่าลึกเท่าไร

แน่นอนว่าเราไม่จำเป็นต้องตรวจทุกคำตอบเข้มข้นเท่ากัน

หากให้ AI ช่วยคิดชื่อลูกแมวหรือเสนอเมนูอาหารเย็น เราอาจปล่อยให้มันโลดโผนได้มากหน่อย ต่อให้ผิดพลาด ความเสียหายอาจมีเพียงแมวได้ชื่อประหลาดหรือมื้อเย็นไม่น่ากิน

แต่ถ้าเป็นเรื่องสุขภาพ กฎหมาย หรือข้อมูลที่จะนำไปเผยแพร่ต่อสาธารณะ การตรวจสอบย่อมต้องจริงจังขึ้น เพราะคำตอบบางคำตอบไม่ได้จบลงเมื่อเราอ่านจบ มันเดินต่อไปเปลี่ยนการตัดสินใจ ชีวิต หรือชะตาของคนอื่นได้

หลักง่าย ๆ จึงมีเพียงว่า ยิ่งผลจากการเชื่อผิดหนักเท่าไร เราก็ยิ่งควรรู้ให้ชัดว่าคำตอบนั้นมาจากไหน

ส่วนคำถามเรื่องแมว วันนั้นผมได้คำอธิบายที่ฟังดูเป็นไปได้หลายข้อ แต่ยังไม่ได้เปิดเอกสารทางสัตวแพทย์เพื่อตรวจรายละเอียด สิ่งที่พอบอกลูกได้เบื้องต้นคือ แมวไม่ได้ปลอดภัยจากเชื้อโรคไปซะทั้งหมด และการทำพฤติกรรมบางอย่างเป็นประจำก็ไม่ได้แปลว่าพฤติกรรมนั้นไม่มีความเสี่ยงกับแมวเลย ส่วนคำอธิบายที่ลึกไปกว่านั้น ผมยังไม่ฟันธง

บางคนอาจรู้สึกว่าเรื่องแค่นี้จะจริงจังไปทำไม ลูกถามก็ตอบคร่าว ๆ ให้จบก็ได้ ซึ่งก็คงจริง เพราะคำตอบเรื่องแมวครั้งนี้ไม่น่าจะสร้างความเสียหายมากนัก

แต่เรื่องเล็ก ๆ แบบนี้กระตุกเตือนเราได้ดีว่า หลายครั้งเราไม่ได้เชื่อเฉพาะสิ่งที่มีหลักฐาน เรามักเชื่อสิ่งที่เล่ามาอย่างเป็นระเบียบ เชื่อคำตอบที่มาถึงอย่างรวดเร็ว และเผลอให้คะแนนเพิ่มแก่เสียงที่ไม่ลังเล

ทุกวันนี้คำตอบอาจเดินทางมาถึงเราภายในไม่กี่วินาที แต่หน้าที่ตัดสินว่าควรเชื่อมากน้อยเพียงใดยังอยู่ที่เดิม คืออยู่กับคนที่ถาม คนที่นำคำตอบไปใช้ และคนที่นำมันไปเล่าต่อ

คราวหน้าหากพบคำตอบที่เรียบเรียงดี มีเหตุมีผล และพูดด้วยน้ำเสียงมั่นใจ ไม่ว่าจะมาจาก AI ผู้เชี่ยวชาญ ข่าวในฟีด หรือแม้แต่คอลัมน์นี้เองก็ตาม

อาจต้องเหลือคำถามสั้น ๆ ไว้อีกคำถามหนึ่งเสมอ

รู้ได้ไง?

วารสารกลับหัว ที่ซุมแซวของเหล่ากูรู (และบางคราวก็กูไม่ค่อยรู) ด้านวารสารศาสตร์ ซึ่งผลัดกันหยิบข่าว กระแส ความเชื่อ และเรื่องรอบตัว มาพลิกซ้าย พลิกขวา กลับหัวดูว่า จริงแค่ไหน และยังมีอะไรซ่อนอยู่อีกบ้าง

พบเขาและเธอว์เหล่านี้ได้ทุกวันศุกร์ เที่ยงตรง ที่ Varasarn Press ที่นี่ที่เดียว