今年 3 月的 NVIDIA GTC 上，看到了 NVIDIA 发布的最新架构的芯片，不由感慨算力发展速度之快。某种程度上，NVIDIA 从自己的角度给出了摩尔定律的破解方案。正如五年前 Dave Patterson 在 A New Golden Age for Computer Architecture 演讲中提出过，传统架构的同构计算模式已经走向终结，很快就会受到物理制成的限制，但 DSH(domain-specific hardware) 必将兴起。GPU 作为异构计算中最有代表性的产品，也确实在 AI 时代展现了足够强大的能力。 不过今天，我想聊的并不是关于算力和硬件的问题。而是软件和系统的角度思考一个非常严肃的话题。理论上，人类是有充足的算力和硬件去支持各种 AI 应用的，但是现在并不是每一个人都有能力去制作自己想要的模型，去用 AI 成功的创业，将 AI

这是一篇简单粗暴的技术短报，简单聊聊我在今年在 Google IO 上看到的一些有趣的事情。 Edge device 今年最大的感触是 AI 上端测的事情。今年大量的 workshop 和展厅对端侧 AI 进行了讨论和部署。其实一个有意思的事情是，我们端侧的 AI 应该怎么部署。我觉得短期内，这个问题是没有答案的，只有具体的产品出现之后才能对产品进行精准的评估。 路线之争 回顾一下当代神经网络的开发模式和部署模式，不难发现我们最常用的生态是基于 Python 语言的环境，和基于 Tensorflow/Pytorch 的架构。而这两大生态在端侧上是极为缺失的。 大概 8 年前，我还在用塞班系统的时候，那会儿手机上没有微信和 QQ，但是上了大学了，我多少还是要用这种「必要社交软件」的。所以当时找到了别人做好的 Python 2.7 部署方案，基于 request 包写了消息转发系统，