การเดินแบบสุ่มในมิติสูงเผยให้เห็นรูปแบบทางคณิตศาสตร์ที่น่าประหลาดใจและท้าทายสัญชาตญาณ

การอภิปรายที่น่าสนใจได้เกิดขึ้นในชุมชนวิทยาศาสตร์เกี่ยวกับพฤติกรรมที่ขัดสัญชาตญาณของการเดินแบบสุ่มในพื้นที่มิติสูง แม้ว่าคนส่วนใหญ่จะเรียนรู้เกี่ยวกับการเดินแบบสุ่มแบบมิติเดียวผ่านการโยนเหรียญ แต่ความจริงคือการเดินแบบสุ่มในมิติสูงพบได้บ่อยกว่ามากในระบบที่ซับซ้อน ตั้งแต่วิวัฒนาการทางพันธุกรรมไปจนถึงการปรับให้เหมาะสมในการเรียนรู้ของเครื่อง

การวิเคราะห์องค์ประกอบหลักเผยให้เห็นโครงสร้างที่ซ่อนอยู่

หนึ่งในการค้นพบที่น่าประหลาดใจที่สุดที่นักวิจัยได้แบ่งปันคือสิ่งที่เกิดขึ้นเมื่อคุณวิเคราะห์วิถีการเดินแบบสุ่มในมิติสูงโดยใช้ Principal Component Analysis ( PCA ) แม้จะมีลักษณะที่ดูเหมือนจะวุ่นวายของการเคลื่อนไหวแบบสุ่มในหลายมิติ แต่ความแปรปรวนมากกว่าครึ่งหนึ่งกลับมีความเข้มข้นไปในทิศทางเดียว และที่น่าทึ่งยิ่งกว่านั้นคือกว่า 80% ของความแปรปรวนตกอยู่ในสององค์ประกอบหลักแรกเท่านั้น

ผลกระทบนี้เกินกว่าเพียงความอยากรู้อยากเห็นทางคณิตศาสตร์ เมื่อวิถีการเดินแบบสุ่มเหล่านี้ถูกฉายลงในพื้นที่ย่อยของ PCA พวกมันจะสูญเสียลักษณะสุ่มไปโดยสิ้นเชิง และแทนที่จะติดตามเส้นโค้ง Lissajous ที่สง่างาม ซึ่งเป็นรูปแบบทางคณิตศาสตร์เดียวกันที่เห็นในการแสดงผลของออสซิลโลสโคปและการเคลื่อนไหวของดาวเคราะห์

Principal Component Analysis ( PCA ): เทคนิคทางสถิติที่ลดข้อมูลที่ซับซ้อนและมีหลายมิติให้เหลือเพียงองค์ประกอบที่สำคัญที่สุด ทำให้ง่ายต่อการแสดงภาพและเข้าใจรูปแบบต่างๆ

การกระจายความแปรปรวนของ PCA ในการเดินแบบสุ่มมิติสูง:

• ความแปรปรวนมากกว่า 50% อยู่ตามองค์ประกอบหลักเดียว
• ความแปรปรวนมากกว่า 80% อยู่ภายในองค์ประกอบหลักสองตัวแรก
• วิถีการฉายภาพสร้างเส้นโค้ง Lissajous แทนที่จะเป็นรูปแบบสุ่ม

แผนที่ความร้อนแบบแบ่งสีนี้แสดงให้เห็นความแปรปรวนในเส้นทางการเดินแบบสุ่มในมิติสูง โดยเน้นการกระจุกตัวของความแปรปรวนตามมิติหลักที่เผยให้เห็นผ่านการวิเคราะห์ PCA

สันเขาครอบงำภูมิประเทศมิติสูง

เรขาคณิตของพื้นที่มิติสูงสร้างปรากฏการณ์ที่ขัดสัญชาตญาณอีกประการหนึ่ง นั่นคือสันเขากลายเป็นสิ่งที่พบได้บ่อยกว่ายอดเขาที่แยกตัวออกมามาก สิ่งนี้มีผลกระทบอย่างลึกซึ้งต่อการเข้าใจว่าระบบที่ซับซ้อนนำทางในสภาพแวดล้อมของพวกมันอย่างไร ในพื้นที่ 10 มิติที่มีการกำหนดค่าแบบสุ่ม นักวิจัยคำนวณว่าเพียงประมาณ 2% ของตำแหน่งต่างๆ เท่านั้นที่มีคุณสมบัติเป็นยอดเขาที่แท้จริง ในขณะที่เครือข่ายสันเขาที่กว้างขวางทอดยาวไปทั่วทั้งพื้นที่

ภูมิประเทศที่ถูกครอบงำด้วยสันเขานี้ช่วยอธิบายปริศนาที่มีมายาวนานในชีววิทยาและปัญญาประดิษฐ์ สายพันธุ์ไม่จำเป็นต้องปีนขึ้นข้ามหุบเขาความเหมาะสมเพื่อไปถึงวิธีแก้ปัญหาวิวัฒนาการที่ดีกว่า พวกมันสามารถเดินทางไปตามเครือข่ายที่เป็นกลางซึ่งมีความเหมาะสมที่ใกล้เคียงกันจนกว่าจะพบโอกาสสำหรับการปรับปรุง

เกณฑ์การซึมผ่าน: จุดวิกฤตที่เส้นทางที่เชื่อมต่อกันทอดยาวไปทั่วทั้งเครือข่าย ทำให้สามารถเคลื่อนไหวระหว่างภูมิภาคที่ห่างไกลได้

คุณสมบัติของไฮเปอร์คิวบ์ 10 มิติ:

• จำนวนโหนดทั้งหมด: 2^10 = 1,024
• ขอบต่อโหนด: 20 (10 มิติ × 2 ทิศทาง)
• เกณฑ์การซึมผ่าน: ~55.6%
• ความน่าจะเป็นของยอดเขา: ~2% ของโหนดทั้งหมด

ผลกระทบต่อการเรียนรู้ของเครื่องและวิวัฒนาการ

ความแพร่หลายของเส้นทางที่เชื่อมต่อกันในมิติสูงให้ข้อมูลเชิงลึกใหม่ว่าทำไมการเรียนรู้เชิงลึกจึงทำงานได้แม้จะมีพารามิเตอร์หลายพันหรือหลายล้านตัว การคิดแบบดั้งเดิมชี้ให้เห็นว่าปัญหาการปรับให้เหมาะสมที่ซับซ้อนเช่นนี้ควรจะติดอยู่ในจุดต่ำสุดในท้องถิ่น ทำให้การหาวิธีแก้ปัญหาที่ดีเป็นไปได้ยากมาก

อย่างไรก็ตาม เรขาคณิตมิติสูงเผยให้เห็นเรื่องราวที่แตกต่างออกไป ความอุดมสมบูรณ์ของเครือข่ายที่เป็นกลางและการเชื่อมต่อสันเขาหมายความว่าอัลกอริทึมการปรับให้เหมาะสมสามารถสำรวจพื้นที่กว้างใหญ่ของพื้นที่พารามิเตอร์โดยไม่ติดอยู่อย่างถาวร ความจริงทางคณิตศาสตร์นี้ช่วยอธิบายว่าทำไมการลดลงแบบไล่ระดับที่รวมกับการสำรวจแบบสุ่มจึงสามารถฝึกโครงข่ายประสาทเทียมที่มีพารามิเตอร์ที่ปรับได้จำนวนมหาศาลได้สำเร็จ

ความแพร่หลายของเครือข่ายที่เป็นกลางในมิติสูงให้โอกาสมากมายในการหลบหนีจากจุดต่ำสุดในท้องถิ่น

หลักการเดียวกันนี้ใช้กับวิวัฒนาการทางชีววิทยา ซึ่งจีโนมแสดงถึงจุดต่างๆ ในพื้นที่ลักษณะมิติสูง การกลายพันธุ์แบบสุ่มสามารถสำรวจเครือข่ายที่เป็นกลางอย่างกว้างขวางโดยไม่ทำร้ายความเหมาะสมของสิ่งมีชีวิต และบางครั้งก็ค้นพบเส้นทางไปสู่การปรับปรุงหน้าที่ทางชีววิทยาอย่างมีนัยสำคัญ

กฎการเคลื่อนที่แบบ Random Walk:

• แต่ละขั้นตอน: เลือก 1 จาก 10 มิติ
• การเลือกทิศทาง: บวกหรือลบ (ความน่าจะเป็น 50% แต่ละทาง)
• การเคลื่อนที่ที่เป็นไปได้ทั้งหมดต่อขั้นตอน: 20
• การเคลื่อนที่จำกัดอยู่ที่เวกเตอร์หน่วยตามแกนมิติ

รายละเอียดทางเทคนิคและการแก้ไขทางคณิตศาสตร์

การอภิปรายของชุมชนยังมุ่งเน้นไปที่การชี้แจงแง่มุมทางเทคนิคบางประการของการเดินแบบสุ่มในมิติสูง ในไฮเปอร์คิวบ์ 10 มิติ แต่ละขั้นตอนเกี่ยวข้องกับการเลือกหนึ่งใน 20 การเคลื่อนไหวที่เป็นไปได้ การเลือกจาก 10 มิติ และจากนั้นเลือกทิศทางบวกหรือลบตามมิตินั้น

นักวิจัยยังได้แก้ไขการคำนวณทางคณิตศาสตร์บางอย่างในการวิเคราะห์เดิม โดยเฉพาะเกี่ยวกับความน่าจะเป็นของยอดเขาในภูมิประเทศมิติสูง ความน่าจะเป็นที่แท้จริงใกล้เคียงกับ 2% มากกว่าที่คำนวณในตอนแรกที่ 18% ซึ่งสอดคล้องกับสัญชาตญาณที่ว่ายอดเขาควรจะหายากในพื้นที่เช่นนี้

ข้อมูลเชิงลึกทางคณิตศาสตร์เหล่านี้ยังคงมีอิทธิพลต่อสาขาต่างๆ ตั้งแต่ชีววิทยาวิวัฒนาการไปจนถึงปัญญาประดิษฐ์ โดยให้กรอบงานใหม่สำหรับการเข้าใจว่าระบบที่ซับซ้อนนำทางและปรับให้เหมาะสมในสภาพแวดล้อมมิติสูงอย่างไร

อ้างอิง: A Random Walk in 10 Dimensions