บริษัทเทคโนโลยีทำให้แนวปฏิบัติที่อันตรายกลายเป็น "ขั้นตอนการดำเนินงานมาตรฐาน"

อุตสาหกรรมเทคโนโลยีมีปัญหาร้ายแรงเกี่ยวกับการทำให้ความผิดปกติกลายเป็นเรื่องปกติ ซึ่งเป็นปรากฏการณ์ที่แนวปฏิบัติที่อันตรายหรือมีข้อบกพร่องค่อยๆ กลายเป็นที่ยอมรับว่าเป็นเรื่องปกติ รูปแบบทางจิตวิทยานี้ได้รับการศึกษาอย่างดีในด้านการดูแลสุขภาพและการบิน อธิบายได้ว่าทำไมแม้แต่บริษัทเทคโนโลยีที่ประสบความสำเร็จก็พัฒนาวัฒนธรรมที่จะทำให้คนภายนอกตกใจ

แนวคิดนี้อธิบายว่าองค์กรค่อยๆ เบี่ยงเบนไปจากแนวปฏิบัติที่ปลอดภัยได้อย่างไร สิ่งที่เริ่มต้นเป็นการฝ่าฝืนกฎเป็นครั้งคราวในที่สุดก็กลายเป็นขั้นตอนมาตรฐาน พนักงานใหม่ตอนแรกจะตกใจ แต่เมื่อเวลาผ่านไปพวกเขาก็ปรับตัวเข้ากับความผิดปกติรอบตัว

การตัดสินใจที่ขับเคลื่อนด้วยข้อมูลมักปกปิดวาระทางการเมือง

บริษัทเทคโนโลยีหลายแห่งอ้างว่าตัดสินใจโดยขับเคลื่อนด้วยข้อมูล แต่การอพิปรายในชุมชนเผยให้เห็นความจริงที่แตกต่าง กระบวนการเลือกข้อมูลที่จะรวบรวมและวิธีการตีความผลลัพธ์มักเกี่ยวข้องกับการซื้อขายทางการเมืองอย่างหนัก บริษัทมุ่งเน้นไปที่ตัวชี้วัดที่สนับสนุนข้อสรุปที่กำหนดไว้ล่วงหน้าแทนที่จะแสวงหาความจริงอย่างเป็นกลาง

สิ่งนี้สร้างความรู้สึกเท็จเกี่ยวกับความเข้มงวดทางวิทยาศาสตร์ในขณะที่จริงๆ แล้วเสริมอคติที่มีอยู่ ทีมงานใช้ความพยายามอย่างมากในการรวบรวมข้อมูลที่ผู้บริหารจะเพิกเฉยในที่สุดหากขัดแย้งกับทิศทางที่พวกเขาต้องการ

แนวปฏิบัติด้านความปลอดภัยได้รับผลกระทบจากความมั่นใจเกินตัว

ความคิดที่ว่า มันจะไม่เกิดขึ้นกับฉัน แพร่หลายในการตัดสินใจด้านความปลอดภัยทั่วทั้งอุตสาหกรรม บริษัทต่างต่อต้านการนำการควบคุมการเข้าถึงที่เหมาะสมมาใช้เพราะพนักงานรู้สึกถูกดูถูกจากการขาดความไว้วางใจ องค์กรบางแห่งยังคงให้วิศวกรทุกคนเข้าถึงข้อมูลลูกค้าได้ แม้หลังจากประสบกับการละเมิดความปลอดภัยแล้ว

จากประสบการณ์ของฉัน ส่วนที่สองนั้นค่อนข้างเป็นจริง ฉันยังไม่เคยเห็นการตัดสินใจที่ขับเคลื่อนด้วยข้อมูลที่ไม่ได้ขับเคลื่อนด้วยกระบวนการทางการเมืองในการเลือกข้อมูลที่จะรวบรวมและวิธีการตีความผลลัพธ์

การทำให้เป็นเรื่องปกติขยายไปถึงแนวปฏิบัติด้านความปลอดภัยในชีวิตประจำวัน ทีมงานปิดการแจ้งเตือนการตรวจสอบเพราะพบว่าการแจ้งเตือนอย่างต่อเนื่องน่ารำคาญ วิศวกรข้ามขั้นตอนการทดสอบเพราะมั่นใจว่าโค้ดของพวกเขาถูกต้อง ทางลัดเหล่านี้สะสมจนกระทั่งเหตุการณ์ร้ายแรงบังคับให้เกิดการเปลี่ยนแปลง

ตัวอย่างทั่วไปของการเบี่ยงเบนที่กลายเป็นเรื่องปกติในวงการเทคโนโลยี:

• การ build ที่เสียหายถูกยอมรับว่า "ปกติ" - ทีมงานหยุดการรันเทสก่อนการ commit
• เทสที่ไม่เสถียรถูกมาร์กด้วย @flaky annotation เพื่อให้ผ่านหากการรันใดๆ สำเร็จ
• การแจ้งเตือนด้านความปลอดภัยถูกปิดเพราะ "น่ารำคาญเกินไป"
• การเข้าถึงข้อมูลลูกค้าแบบทั่วไปของพนักงานถูกอ้างอิงด้วยวัฒนธรรม "ความไว้วางใจ"
• กระบวนการแมนนวลถูกข้ามระหว่างเหตุการณ์ฉุกเฉินเพื่อ "ประหยัดเวลา"
• การเชื่อมต่อทางการเมืองได้รับการจัดลำดับความสำคัญเหนือการวิเคราะห์ข้อมูลสำหรับการตัดสินใจ

สัญญาณอ่อนถูกเพิกเฉยจนกระทั่งเกิดวิกฤต

พนักงานใหม่มักจะสังเกตเห็นปัญหาทันที แต่ความกังวลของพวกเขาถูกปฏิเสธว่าเป็นความไม่มีประสบการณ์ เมื่อถึงเวลาที่คนงานเหล่านี้มีอิทธิพลเพียงพอที่จะผลักดันให้เกิดการเปลี่ยนแปลง พวกเขาก็ปรับตัวเข้ากับระบบที่เสียหายรอบตัวแล้ว

การเลิกจ้างล่าสุดที่บริษัทเทคโนโลยีใหญ่ๆ ทำให้ปัญหานี้แย่ลง คนงานรู้สึกมีอำนาจน้อยลงในการแสดงความกังวลเมื่อความมั่นคงในงานดูไม่แน่นอน ความกลัวที่จะถูกมองว่าเป็นคนลบหรือยากลำบากป้องกันไม่ให้ผู้คนพูดเกี่ยวกับปัญหาที่ชัดเจน

การเปลี่ยนแปลงทางวัฒนธรรมต้องการความพยายามในการเป็นผู้นำอย่างต่อเนื่อง

บริษัทที่จัดการกับการทำให้ความผิดปกติเป็นเรื่องปกติได้สำเร็จมักจะทำได้หลังจากประสบความอับอายหรือขาดทุนทางการเงินอย่างมีนัยสำคัญเท่านั้น การเปลี่ยนแปลงของ Google จากการเพิ่ม z ใน URL เพื่อความปลอดภัยไปสู่การเป็นผู้นำในอุตสาหกรรมต้องใช้ความพยายามอย่างต่อเนื่องหลายปีหลังจากความล้มเหลวต่อสาธารณะ

ความท้าทายเพิ่มขึ้นตามขนาดของบริษัท องค์กรขนาดเล็กสามารถปรับตัวได้อย่างรวดเร็วเมื่อผู้นำตระหนักถึงปัญหา บริษัทขนาดใหญ่ต่อสู้กับชั้นของการจัดการที่ทำให้ข้อเสนอแนะเจือจางและต่อต้านการเปลี่ยนแปลง การประกาศนโยบายที่มีเจตนาดีจากผู้บริหารมักล้มเหลวในการซึมซับเข้าสู่การดำเนินงานประจำวัน

การมุ่งเน้นของอุตสาหกรรมเทคโนโลยีในการเติบโตอย่างรวดเร็วมักขัดแย้งกับการสร้างแนวปฏิบัติที่ยั่งยืน บริษัทเพิ่มประสิทธิภาพสำหรับการส่งมอบฟีเจอร์แทนที่จะรักษาระบบ สิ่งนี้สร้างหนี้ทางเทคนิคและปัญหาทางวัฒนธรรมระยะยาวที่มีค่าใช้จ่ายในการแก้ไขเพิ่มขึ้น

การทำลายวงจรต้องการความพยายามอย่างมีสติในการฟังสัญญาณอ่อน ให้รางวัลงานบำรุงรักษาเท่าเทียมกับฟีเจอร์ใหม่ และสร้างความปลอดภัยทางจิตใจสำหรับพนักงานในการแสดงความกังวล หากไม่มีรากฐานนี้ แม้แต่บริษัทที่ประสบความสำเร็จก็เสี่ยงต่อการเบี่ยงเบนไปสู่แนวปฏิบัติที่อันตรายซึ่งรู้สึกปกติสมบูรณ์สำหรับคนในองค์กร

อ้างอิง: Normalization of deviance