การประเมินการใช้ทรัพยากรของ AI ของ Google นั้นมีอยู่มากเกินไป – Computerworld

0
52



“ หากคุณในฐานะ CIO ไม่ได้พูดคุยกับทีมงานและสิ่งอำนวยความสะดวกของคุณเกี่ยวกับการพยากรณ์ความต้องการพลังงานเมื่อเทียบกับความพร้อมใช้งานของพลังงานเริ่มต้นทันที” กล่าว Matt KimballVP/นักวิเคราะห์หลักสำหรับ Moor Insights & Technique “ เมื่ออาศัยอยู่ในโลกไอทีฉันตระหนักดีว่าองค์กรเหล่านี้แยกกันได้อย่างไรโดยที่พลังเป็นเพียงรายการโฆษณาในงบประมาณและไม่มีอะไรเพิ่มเติมพูดคุยกับทีมที่จัดการพลังการระบายความร้อนและโครงสร้างพื้นฐานดาต้าเซ็นเตอร์

มันไม่ได้เป็นเพียงแค่ความสามารถในการคำนวณที่ก่อให้เกิดค่าใช้จ่ายของ AI: มันจำเป็นต้องตรวจสอบการดำเนินการจัดเก็บข้อมูลที่มีอยู่อีกครั้งเช่นกัน Kimball กล่าว

“ ฉันจะลองดูโครงสร้างพื้นฐานการจัดเก็บของฉันเป็นเวลานานและวิธีการเพิ่มประสิทธิภาพการเปิดและปิดของ PREP ให้ดีขึ้นโครงสร้างพื้นฐานที่เติมดาต้าเซ็นเตอร์องค์กรส่วนใหญ่ล้าสมัยและไม่ได้ใช้งานการย้ายไปยังเซิร์ฟเวอร์ที่มีซีพียูล่าสุดที่มีประชากรหนาแน่นเป็นครั้งแรก” เขากล่าว “ การย้ายที่เก็บข้อมูลในสถานที่จากสื่อหมุนไปยังแฟลชทั้งหมดมีค่าใช้จ่ายล่วงหน้าสูงกว่า แต่ประหยัดพลังงานและมีประสิทธิภาพมากขึ้นมันง่ายที่จะซื้อใน Nvidia B300 หรือ AMD MI355X Craze หรือ Dell, HPE หรือ Lenovo AI ราคาไม่แพงมากและประมาณ 40% ของการใช้พลังงานเมื่อเทียบกับ B300”

LEAVE A REPLY

Please enter your comment!
Please enter your name here