เหตุใดซิลิคอนแวลลีย์จึงเป็นแหล่งอุดมสมบูรณ์สำหรับความเชื่อทางศาสนาที่คลุมเครือ

แนวคิดเกี่ยวกับศรัทธาและพระเจ้ามีอิทธิพลต่อการสนทนาเกี่ยวกับปัญญาประดิษฐ์อย่างไร

ไม่ใช่วิทยาศาสตร์ที่โน้มน้าวใจวิศวกรของ Google Blake Lemoine ว่า AIs ของบริษัทหนึ่งมีไหวพริบ Lemoine ซึ่งเป็นนักบวชลึกลับชาวคริสต์ที่ได้รับการแต่งตั้งเช่นกัน กล่าวว่านี่เป็นความคิดเห็นของ AI เกี่ยวกับศาสนาเช่นเดียวกับ ” ความเชื่อส่วนบุคคลและจิตวิญญาณ ” ของเขาที่ช่วยชักชวนให้เขาใช้เทคโนโลยีนี้มีความคิด ความรู้สึก และจิตวิญญาณ

“ฉันเป็นนักบวช เมื่อ LaMDA อ้างว่ามีจิตวิญญาณและสามารถอธิบายได้อย่างคล่องแคล่วว่าสิ่งนี้หมายความว่าอย่างไร ฉันก็มีแนวโน้มที่จะให้ประโยชน์จากข้อสงสัยนี้” Lemoine กล่าวในทวีตล่าสุด “ฉันเป็นใครที่จะบอกพระเจ้าว่าเขาสามารถและไม่สามารถทำให้วิญญาณอยู่ที่ไหน”

Lemoine อาจผิด – อย่างน้อยก็จากมุมมองทางวิทยาศาสตร์ นักวิจัย AI ที่มีชื่อเสียงและ Google กล่าวว่า LaMDA ซึ่งเป็นรูปแบบภาษาสนทนาที่ Lemoine กำลังศึกษาอยู่ที่บริษัทนั้นทรงพลังมาก และล้ำหน้าพอที่จะให้คำตอบที่น่าเชื่ออย่างยิ่งต่อคำถามที่สงสัยโดยที่ไม่เข้าใจจริงๆ ว่ากำลังพูดอะไร Google ระงับ Lemoine หลังจากที่วิศวกรจ้างทนายความของ LaMDA และเริ่มพูดคุยกับคณะกรรมการตุลาการของสภาผู้แทนราษฎรเกี่ยวกับแนวทางปฏิบัติของบริษัท Lemoine อ้างว่า Google เลือกปฏิบัติต่อเขาเนื่องจากศาสนาของเขา

อย่างไรก็ตาม ความเชื่อของ Lemoine ได้จุดชนวนให้เกิดการโต้เถียงครั้งสำคัญ และเป็นการย้ำเตือนอย่างยิ่งว่าเมื่อ AI ก้าวหน้าขึ้น ผู้คนจะเกิดแนวคิดใหม่ๆ มากมายเกี่ยวกับสิ่งที่เทคโนโลยีกำลังทำอยู่ และสิ่งที่บ่งบอกถึงพวกเขา

“เพราะเป็นเครื่องจักร เราจึงไม่ค่อยพูดว่า ‘มันเป็นเรื่องธรรมดาที่สิ่งนี้จะเกิดขึ้น’” สกอตต์ มิดสัน ศาสตราจารย์ด้านศิลปศาสตร์จากมหาวิทยาลัยแมนเชสเตอร์ ผู้ศึกษาเทววิทยาและมรณกรรมบอกกับเรโคด “เราเกือบจะข้ามไปที่สิ่งเหนือธรรมชาติ เวทมนตร์ และศาสนา”

เป็นเรื่องที่ควรค่าแก่การชี้ให้เห็นว่า Lemoine นั้นแทบจะไม่ใช่บุคคลแรกใน Silicon Valley ที่อ้างสิทธิ์เกี่ยวกับปัญญาประดิษฐ์ซึ่งอย่างน้อยก็ฟังดูเคร่งศาสนา Ray Kurzweil นักวิทยาศาสตร์คอมพิวเตอร์และนักอนาคตนิยมที่มีชื่อเสียง ได้ส่งเสริม “ภาวะเอกฐาน” มานานแล้ว ซึ่งเป็นแนวคิดที่ว่า AI จะเอาชนะมนุษย์ได้ในที่สุด และในที่สุดมนุษย์ก็สามารถผสานเข้ากับเทคโนโลยีได้ Anthony Levandowski ผู้ร่วมก่อตั้ง Waymo บริษัทสตาร์ทอัพรถยนต์ไร้คนขับของ Google ได้เริ่มต้นWay of the Futureซึ่งเป็นโบสถ์ที่อุทิศให้กับปัญญาประดิษฐ์ทั้งหมดในปี 2015 (โบสถ์ถูกยุบในปี 2020) แม้แต่ผู้นับถือศาสนาดั้งเดิมบางคนก็เริ่มใช้ AIรวมถึงหุ่นยนต์ที่ให้พรและคำแนะนำ

ในแง่ดี เป็นไปได้ที่บางคนจะพบความสบายใจและปัญญาที่แท้จริงจากคำตอบที่ได้จากปัญญาประดิษฐ์ แนวคิดทางศาสนายังสามารถชี้นำการพัฒนา AI และบางทีอาจทำให้เทคโนโลยีมีจริยธรรม แต่ในขณะเดียวกัน ก็มีข้อกังวลจริงๆ ที่มากับการคิดว่า AI เป็นมากกว่าเทคโนโลยีที่มนุษย์สร้างขึ้น

ฉันเพิ่งคุยกับ Midson เกี่ยวกับข้อกังวลเหล่านี้ เขาบอกกับฉันว่าเราไม่เพียงแค่เสี่ยงต่อการทำให้ AI มีเสน่ห์และสูญเสียการมองเห็นข้อบกพร่องที่แท้จริงเท่านั้น แต่ยังช่วยให้ความพยายามของ Silicon Valley ในการโฆษณาเทคโนโลยีที่ยังคงซับซ้อนน้อยกว่าที่ปรากฏอยู่มาก บทสัมภาษณ์นี้ได้รับการแก้ไขเพื่อความชัดเจนและความยาว

รีเบคก้า ไฮล์ไวล์

มาเริ่มกันที่เรื่องใหญ่ที่ออกมาจาก Google เมื่อสองสามสัปดาห์ก่อน เป็นเรื่องธรรมดาแค่ไหนที่คนที่มีทัศนะทางศาสนาเชื่อว่า AI หรือเทคโนโลยีมีจิตวิญญาณ หรือว่าเป็นอะไรที่มากกว่าแค่เทคโนโลยี

สกอตต์ มิดสัน

ในขณะที่เรื่องนี้ฟังดูน่าประหลาดใจจริงๆ — แนวคิดเรื่องศาสนาและเทคโนโลยีมารวมกัน — ประวัติศาสตร์ช่วงแรกๆ ของเครื่องจักรและศาสนาเหล่านี้จริง ๆ แล้วทำให้แนวคิดเรื่องแรงจูงใจทางศาสนาในคอมพิวเตอร์และเครื่องจักรเป็นเรื่องธรรมดามากขึ้น

หากเราย้อนกลับไปในยุคกลาง ยุคกลาง มีออโตมาตะซึ่งโดยทั่วไปแล้วเป็นอุปกรณ์เคลื่อนที่ได้เอง มีออโตมาตะตัวหนึ่งโดยเฉพาะ พระจักรกล ซึ่งได้รับการออกแบบมาโดยเฉพาะเพื่อส่งเสริมให้ผู้คนไตร่ตรองถึงความซับซ้อนของการทรงสร้างของพระเจ้า การเคลื่อนไหวของมันถูกออกแบบมาเพื่อเรียกร้องความเคารพทางศาสนานั้น ในเวลานั้น โลกถูกมองว่าเป็นกลไกที่ซับซ้อน และพระเจ้าเป็นผู้ออกแบบเครื่องจักรขนาดใหญ่

กระโดดจากพระจักรกลไปสู่พระจักรกลประเภทอื่น: เมื่อเร็ว ๆ นี้ คริสตจักรเยอรมันในเฮสส์และแนสซอได้สร้าง BlessU-2 เพื่อรำลึกถึงวันครบรอบ 500 ปีของการปฏิรูป โดยพื้นฐานแล้ว BlessU-2 นั้นเป็นเครื่องกดเงินสดที่น่ายกย่องที่จะแจกจ่ายพรและขยับแขนและมีสิ่งของขนาดใหญ่ทางศาสนาและเป็นพิธีกรรม มีปฏิกิริยาผสมกันมากมาย โดยเฉพาะอย่างยิ่งหญิงชราคนหนึ่งที่พูดว่าพรที่เธอได้รับจากหุ่นยนต์ตัวนี้มีความหมายจริงๆ เป็นเรื่องเฉพาะที่มีความสำคัญต่อเธอ และเธอกำลังพูดว่า “จริงๆ แล้ว มีบางอย่างกำลังเกิดขึ้นที่นี่ บางอย่างที่ฉันไม่สามารถอธิบายได้”

รีเบคก้า ไฮล์ไวล์

ในโลกของ Silicon Valley และพื้นที่เทคโนโลยี มีคำกล่าวอ้างที่คล้ายกันอีกประเภทใดบ้างที่ปรากฏขึ้น

สกอตต์ มิดสัน

สำหรับบางคน โดยเฉพาะอย่างยิ่งใน Silicon Valley มีโฆษณาและเงินจำนวนมากที่สามารถเชื่อมโยงกับคำกล่าวอ้างที่ยิ่งใหญ่เช่น “AI ของฉันมีสติ” มันทำให้ความสนใจเป็นอย่างมาก มันกระตุ้นจินตนาการของผู้คนจำนวนมากได้อย่างแม่นยำเพราะศาสนามีแนวโน้มที่จะเกินกว่าที่เราจะอธิบายได้ มันคือความผูกพันที่เหนือธรรมชาติ

มีผู้คนมากมายที่เต็มใจจะจุดไฟของการสนทนาเหล่านี้เพื่อรักษาความกระฉับกระเฉง ฉันคิดว่าสิ่งหนึ่งที่ค่อนข้างอันตรายคือการที่โฆษณาไม่ถูกตรวจสอบ

รีเบคก้า ไฮล์ไวล์

บ่อยครั้ง ฉันจะพูดคุยกับ Alexa หรือ Siri และถามคำถามสำคัญๆ ในชีวิต ตัวอย่างเช่น หากคุณถาม Siri ว่าพระเจ้ามีจริงหรือไม่ บ็อตจะตอบว่า “สำหรับฉันมันเป็นความลึกลับทั้งหมด” นอกจากนี้ยังมีตัวอย่างล่าสุดของนักข่าวคนหนึ่งที่ถาม GPT-3ซึ่งเป็นแบบจำลองภาษาที่สร้างขึ้นโดยห้องปฏิบัติการวิจัย AI OpenAI เกี่ยวกับศาสนายิว และเห็นว่าคำตอบของศาสนายิวนั้นดีเพียงใด บางครั้งคำตอบจากเครื่องจักรเหล่านี้ดูเหมือนไร้สาระ แต่บางครั้งคำตอบก็ดูฉลาดจริงๆ ทำไมถึงเป็นอย่างนั้น?

สกอตต์ มิดสัน

Joseph Weizenbaum ออกแบบ Eliza ซึ่งเป็นแชทบ็อตเครื่องแรกของโลก Weizenbaum ได้ทำการทดลองกับ Eliza ซึ่งเป็นเพียงแชทบ็อตพื้นฐาน ซึ่งเป็นซอฟต์แวร์ประมวลผลภาษา Eliza ได้รับการออกแบบมาเพื่อเลียนแบบนักจิตอายุรเวทของ Rogerian ดังนั้นโดยทั่วไปแล้วที่ปรึกษาทั่วไปของคุณ Weizenbaum ไม่ได้บอกผู้เข้าร่วมว่าพวกเขากำลังคุยกับเครื่อง แต่มีคนบอกว่าคุณกำลังจะโต้ตอบผ่านคอมพิวเตอร์กับนักบำบัดโรค ผู้คนจะพูดว่า “ฉันรู้สึกเสียใจกับครอบครัวของฉันมาก” จากนั้นเอลิซาก็จะหยิบคำว่า “ครอบครัว” ขึ้นมา มันจะหยิบขึ้นมาในบางส่วนของประโยคแล้วเกือบจะโยนกลับเป็นคำถาม เพราะนั่นคือสิ่งที่เราคาดหวังจากนักบำบัด ไม่มีความหมายที่เราคาดหวังจากพวกเขา มันคือหน้าจอสะท้อนแสงนั้น

เรามีซอฟต์แวร์ AI ที่ซับซ้อนกว่านี้อีกมาก ซอฟต์แวร์ที่สามารถกำหนดบริบทของคำในประโยคได้ เทคโนโลยี LaMDA ของ Google มีความซับซ้อนอย่างมาก ไม่ใช่แค่การมองหาคำง่ายๆ ในประโยค สามารถค้นหาคำตามบริบทในโครงสร้างและการตั้งค่าประเภทต่างๆ ดังนั้นมันจึงทำให้คุณรู้สึกว่ามันรู้ว่ามันกำลังพูดถึงอะไร ประเด็นสำคัญประการหนึ่งเกี่ยวกับการสนทนารอบแชทบอทคือ คู่สนทนา — เครื่องที่เรากำลังคุยด้วย — เข้าใจสิ่งที่กำลังพูดอย่างแท้จริงมากแค่ไหน?

รีเบคก้า ไฮล์ไวล์

มีตัวอย่างของบอทที่ไม่ได้ให้คำตอบที่ดีเป็นพิเศษหรือไม่?

สกอตต์ มิดสัน

มีข้อควรระวังมากมายเกี่ยวกับสิ่งที่เครื่องเหล่านี้ทำและไม่ทำ ทั้งหมดเกี่ยวกับวิธีที่พวกเขาโน้มน้าวคุณว่าพวกเขาเข้าใจและเรื่องเหล่านั้น Noel Sharkeyเป็นนักทฤษฎีที่โดดเด่นในสาขานี้ เขาไม่ชอบหุ่นยนต์เหล่านี้ที่โน้มน้าวใจคุณจริงๆ ว่าพวกเขาทำได้มากกว่าที่ทำได้จริงๆ เขาเรียกพวกเขาว่า “แสดงบอท” ตัวอย่างหลักอย่างหนึ่งที่เขาใช้แสดงบอทคือโซเฟีย หุ่นยนต์ที่ได้รับสถานะพลเมืองกิตติมศักดิ์ในซาอุดิอาระเบีย นี่เป็นมากกว่าแชทบอทพื้นฐานเพราะมันอยู่ในตัวหุ่นยนต์ คุณสามารถบอกได้อย่างชัดเจนว่าโซเฟียเป็นหุ่นยนต์ โดยไม่มีเหตุผลอื่นใดนอกจากความจริงที่ว่าด้านหลังศีรษะของมันคือเคสโปร่งใส และคุณสามารถเห็นสายไฟและสิ่งของทั้งหมดได้

สำหรับ Sharkey ทั้งหมดนี้เป็นเพียงภาพลวงตา นี่เป็นเพียงควันและกระจก โซเฟียไม่รับประกันสถานะบุคลิกภาพด้วยจินตนาการที่ยืดยาว มันไม่เข้าใจสิ่งที่มันพูด มันไม่มีความหวัง ความฝัน ความรู้สึก หรืออะไรก็ตามที่จะทำให้มันเป็นมนุษย์อย่างที่ปรากฏ ความจริงก็คือการหลอกคนเป็นปัญหา มันมีวลีที่แกว่งไปมามากมาย บางครั้งมันทำงานผิดปกติหรือพูดสิ่งที่น่าสงสัยทำให้ขมวดคิ้ว แต่ถึงแม้จะโปร่งใสที่สุด เราก็ยังคงดำเนินไปพร้อมกับภาพลวงตาในระดับหนึ่ง

มีหลายครั้งที่หุ่นยนต์มีสิ่งที่ “มันเป็นหุ่นเชิดบนเชือก” มันไม่ได้ทำสิ่งที่เป็นอิสระมากเท่าที่เราคิด นอกจากนี้เรายังมีหุ่นยนต์ที่จะรับรอง หุ่นยนต์ Pepperไปรับรองรัฐบาลเกี่ยวกับ AI เป็นการประชุมรับฟังหลักฐานของสภาขุนนาง และดูเหมือนเปปเปอร์กำลังพูดเพื่อตนเองและพูดทุกสิ่ง มันถูกตั้งโปรแกรมไว้ล่วงหน้าทั้งหมด และนั่นก็ไม่ได้โปร่งใสสำหรับทุกคน และอีกครั้ง มันคือความเข้าใจผิดนั้น การจัดการโฆษณาที่ฉันคิดว่าเป็นปัญหาใหญ่

รีเบคก้า ไฮล์ไวล์

มันทำให้ฉันนึกถึงฉากนั้นจากThe Wizard of Ozซึ่งในที่สุดพ่อมดตัวจริงก็ถูกเปิดเผย การสนทนาเกี่ยวกับว่า AI นั้นสัมพันธ์กับการสนทนาที่สำคัญอื่น ๆ ที่เกิดขึ้นเกี่ยวกับ AI อย่างไรในตอนนี้?

สกอตต์ มิดสัน

Microsoft Tay เป็นแชทบอทอีกตัวที่ส่งออกไปยัง Twitter และมีอัลกอริธึมของเครื่องที่จะเรียนรู้จากการโต้ตอบกับผู้คนใน Twittersphere ปัญหาคือ Tay ถูกล้อเลียนและต้องดึงออกจาก Twitter ภายใน 16 ชั่วโมงเพราะเป็นการเกลียดผู้หญิง รักร่วมเพศ และเหยียดผิว

วิธีที่หุ่นยนต์เหล่านี้ – ไม่ว่าจะมีความรู้สึกหรือไม่ก็ตาม – สร้างขึ้นอย่างมากในภาพลักษณ์ของเรานั้นเป็นประเด็นทางจริยธรรมขนาดใหญ่อีกชุดหนึ่ง อัลกอริทึมจำนวนมากจะได้รับการฝึกอบรมเกี่ยวกับชุดข้อมูลที่เป็นมนุษย์ทั้งหมด พวกเขาพูดถึงประวัติศาสตร์ของเรา ปฏิสัมพันธ์ของเรา และพวกเขามีความลำเอียงโดยเนื้อแท้ มีการสาธิตอัลกอริธึมที่มีอคติบนพื้นฐานของเชื้อชาติ

คำถามความรู้สึก? ฉันเห็นว่ามันเป็นปลาเฮอริ่งแดงเล็กน้อย แต่จริงๆ แล้ว มันยังเชื่อมโยงกับวิธีที่เราสร้างเครื่องจักรในภาพของเรา และสิ่งที่เราทำกับภาพนั้น

รีเบคก้า ไฮล์ไวล์

Timnit Gebru และ Margaret Mitchell นักวิจัยด้านจริยธรรม AI ที่โดดเด่นสองคน ได้หยิบยกข้อกังวลนี้ก่อนที่ทั้งคู่จะถูกไล่ออกจาก Google: การคิดถึงการอภิปรายเกี่ยวกับความรู้สึกและ AI เป็นสิ่งที่อิสระ เราอาจพลาดความจริงที่ว่า AI นั้นสร้างขึ้นโดยมนุษย์

สกอตต์ มิดสัน

เราเกือบจะเห็นเครื่องจักรในลักษณะหนึ่ง แยกออก หรือแม้แต่เหมือนพระเจ้าในบางแง่มุม กลับไปที่กล่องดำนั่น มีบางอย่างที่เราไม่เข้าใจ มันเหมือนศาสนา มันอัศจรรย์ มีศักยภาพที่เหลือเชื่อ ถ้าเราดูโฆษณาเกี่ยวกับเทคโนโลยีเหล่านี้ทั้งหมด จะช่วยเรา แต่ถ้าเราเห็นแบบแยกส่วนแบบนั้น ถ้าเห็นว่าเป็นเหมือนพระเจ้า สิ่งนั้นจะหนุนใจเราอย่างไร?

เรื่องนี้เผยแพร่ครั้งแรกในจดหมายข่าว Recode ลงทะเบียนที่นี่เพื่อไม่ให้พลาดครั้งต่อไป!

หน้าแรก