×

Loading...
Ad by
  • 最优利率和cashback可以申请特批,好信用好收入offer更好。请点链接扫码加微信咨询,Scotiabank -- Nick Zhang 6478812600。
Ad by
  • 最优利率和cashback可以申请特批,好信用好收入offer更好。请点链接扫码加微信咨询,Scotiabank -- Nick Zhang 6478812600。

From chargpt


:

Sign in and Reply Report

Replies, comments and Discussions:

  • 枫下家园 / 电脑电信 / 数据中心耗电惊人,尤其是现在的人工智能,是否建在比较冷的地方更省电?比如阿拉斯加或埃德蒙多,就像中国把数据中心建在贵州,那里不仅电便宜,也更冷一点 +1
    • 有说矿场在内蒙 +1
      • 还有新疆,俺们贵州的确是数据中心,但矿场好像真没听说。夏季凉爽是一个原因,还有就是没有地震、水灾,不容易战争。以前在银行,参与灾备中心选址,这是标准,反而电费不考虑。
    • 为什么冷的地方省电
      • 节省空调费用,如果外面是零下,直接就可以用风扇降温 +1
        • 😄
        • 我觉得降温的电耗有限,国家安全事儿大,否则建在地下岂不更好
          • 那些地方其实挺安全的:在埃德蒙多有空军基地,周围人少容易控制间谍渗透,建在地下成本很高,而且不容易降温,传统数据中心的运营成本电费占比为28%。 新的人工智能数据中心这个比例只会越来越高
          • 对于运算中心来说,降温是最大的电耗,所以挖矿的喜欢去寒冷的地方 +1
    • 数据中心是室内,还得有空调。
      • 空调室外温度低的时候电耗会少很多 +1
        • HVAC 耗电和 mass computers 耗电比,不是一个数量级吧。只要看电费费率,交通,税率,电源可持续性,搬迁可能性等等吧。
          • 消耗的电能最后都变成了热量,而机房需要恒温,所以需要空调把这些热量都搬走
            • From chargpt


              :

              • 这些废热利用都需要一定的条件,而数据中心为了安全和低廉的电价,很难满足这些条件,你总不能夏天的时候还加热别人的暖房吧?难道夏天就不运行了?
    • Quebec, Greenland.
    • 降温只是其中一个考虑,选址的因素很多,比如有的应用对latency有非常严格的限制,这时需要考虑物理距离和经过的节点和每个节点增加的latency.
      • 中国能做到东数西算,北美没道理做不到,从四川到上海的距离比埃德蒙多到硅谷的距离更远
        • 硅谷有自己的法子,有太阳能有核能,创新才是解决问题的根本方法。中国迟早还是要学习硅谷的。 +2
          • 要客观看待问题,向对手学习它们的长处,而不是一味强调政治正确或屁股决定脑袋
        • 这个取决于app, 比如有些AI Health Care相关的, 物理距离受光速限制
          • 我上面已经提到了人工智能训练这种非常耗电的应用,这种应用对时延不敏感,都是些动不动几天甚至几个星期才出结果的东西,延迟一秒有什么关系?您说的那个叫AI推理,反而不需要多少能耗,而且一般在终端里 +1
    • 不但是温度,湿度也比较重要,所以数据中心一般来说招电气工程师都得会HVAC control这方面的东西
      • 冷的地方湿度都比较低
        • 不一定
          • 加拿大大,找这种地方太容易了,比如草原三省就比较干燥
            • 多年来联邦政府对开发草原省份有很严格的法律法规,令投资者望而却步
              • 机房除了散热没有任何污染,而热量刚好可以拿来搞暖气和暖棚,不能刻舟求剑啊
                • 还是需要占用开发大片土地,修路,供水,供电,供气,维修,保养,就会涉及排放污染物,环保小母啥的就都来了


                  :

    • 世界上最适合的地方是西伯利亚,两个条件都满足,普京躺赢。西方都建在海底,现在在担心海水温度升高影响环境
      • 加拿大也有大片北方土地
      • 建海底的难度不是一般地高,怎么在海底开机器都是个问题
    • AWS在加拿大的两大云服务中心分别在魁省与阿省
      • 可以建更多的数据中心,我的暖棚就指望它们了
    • 听Jensen Huang 讲GPU 用的是liquid cooling, 空气恐怕不够
      • 不管那种降温方法,外面比较冷的时候,空调的能耗会降低,物理学基本原理
    • 数据中心在加拿大这么冷的地方一点也不少耗电,我和boss讨论过这个问题,冬天能否利用天然的冷气来降温,好像没有这个设计,还是用恒温空调,屋内正常暖气
      • 外面比较冷的时候,空调的效率会提高,能耗会降低,物理学的基本原理
        • 你忘了外面比较冷的时候,屋内的暖气需要开的很足才能保证一个室温,然后机房的空调再开足马力降温
          • 显然你还没有搞清楚AI芯片是如何耗电的,英伟达现在的主力GPU芯片H100大约700瓦的能耗,而下一代是1200瓦,每个芯片是个小电炉,这么多堆在一起,不管外面多冷你唯一要做的是降温
    • 以前一个GOOGLE查询就要费一度多电,现在问CHATGPT一个问题,估计要耗费好几度电。
      • 这么夸张,那CHATGPT不亏死了?
        • 这是工业用电,不是家用,一度几分钱的那种。
        • 美国人有个提法说要融合加拿大因为资源丰富能为未来AI提供电力
      • 网上查来的:ChatGPT每天需要响应1.95亿次请求,预计每天需要消耗564兆瓦时电力,每个请求大约2.9瓦时 +1
        • 收回俺说的,把KJ看成了KW了。
    • 肯定越冷越好,对AI来说目前的宇宙都还太热,能效不足以诞生真正的人工智能
    • 大型的数据中心的选址要考虑 用电便宜,降温容易,地质状况稳定。