最近搞到了一票云仿真计算资源。空闲之余挨个尝试了一下,感受颇多。
这些云计算资源算力都很充足,有的只要你愿意给钱,甚至能短期提供多达2000核的瞬时算力,对于大模型计算来说很是不错的。
目前没发现一个特别好用的资源。当然这跟远程计算有关系,方便性和本地计算没法比。
个人的一些感受:
一些提供商甚至还在采用SSH登陆的方式提供计算服务。额,当仿真的人都是Liunx高手呢。实话说,我见过不少做仿真计算的,连windows系统都没操作明白,一大群把硬盘称作硬盘的。你让他们用SSH登陆服务器,然后上传文件,启动计算,然后再把计算结果搞回本地?是不是有点儿高估使用者的计算机操作水平了?
一些提供商没有提供良好的文件上传下载接口。文件上传下载经常中断,有一些竟然还禁止断点续传,让人不服都不行。当然,从安全的角度考虑是有必要的,但打着安全的幌子划水忽略用户体验,嘿~
一些资源提供的短期算力不够。有一些最大只提供32核,这还不如本地工作站,要了何用?
绝大多数提供商不提供图形显示,少量提供图形显示,但采用的是虚拟机模式,显示性能极差,几乎不可能在远端进行前后处理操作。对于大模型处理非常不利。本地没有资源进行大模型的前处理,到远端也没法操作,那还咋个用?
服务态度都极好,个人感觉这行业内卷严重。
价格普遍比较便宜,多数能做到每核时低于0.1元,比几年前是便宜了太多了。
尚未发现有提供免费调试机会的提供商。现在是你上传模型,吭哧吭哧算半天结果模型报错,但你得照样按计算时间给钱。
我在想有没有可能远端只提供算力,而不要用户上传计算模型?也就是模型在本地,但计算在远端?提供商不妨考虑考虑。
(完)