图灵汇官网

2024年度科技盛会：掘金技术演讲在深圳启幕

开幕与主题概览

2024年1月20日，由稀土掘金社区主办的“掘金年度技术演讲”在深圳盛大举行，聚焦“与开发者同行”的主题，汇聚了科技创新者、互联网领域专家和企业代表，共同探讨AI、大前端、数据库和云原生等领域的最新进展，为开发者提供前瞻视角。

技术演讲亮点

张雷：字节跳动数据库的进化之路

字节跳动数据库负责人张雷在演讲中回顾了公司数据库从初创阶段到大规模自研与平台化，直至体系化、云化、智能化的历程。他强调了过去五年间解决“规模化”问题的重心，并展望了2024年面临的挑战，特别是服务成本、用户接入效率与系统运行时效等方面。张雷强调云数据库的核心价值在于优化“成本”与“效率”，并承诺字节跳动将持续应对挑战，提供高效可靠的云数据库服务。

卢翔龙：NVIDIA的LLM推理与服务部署

NVIDIA的资深解决方案架构师卢翔龙深入分析了LLM推理与服务部署技术，总结了其在生产语言应用部署中的重要性。他介绍了TensorRT-LLM在GPU上优化大型语言模型推理性能的应用，并概述了LLM生态系统及其优化技术，如注意力机制、KV缓存优化、Inflight Batching和量化。卢翔龙还提到了Triton Inference Server的高效、可扩展与低延迟特性，强调NVIDIA将加速LLM的发展，为开发者提供灵活高效的解决方案。

堵俊平：开源与商业：GenAI时代的碰撞

Datastrato创始人、CEO堵俊平分享了开源软件的八种商业模式及其经典案例，包括“RedHat”作为订阅服务模式的代表。他回顾了从PC到移动互联网时代的转变，并预测了云时代下开发者需关注的托管云服务“X as a service”。堵俊平特别强调了即将到来的“GenAI时代”，并指出AI技术将与开源软件结合，为创新和商业带来新的机遇与挑战。

刘群：大语言模型的现状与趋势

华为诺亚方舟实验室语音语义首席科学家刘群探讨了大语言模型的当前状态与发展趋势，包括模型能力的提升方法与架构演进趋势，如稀疏化前向网络、训练推理优化和长序列处理。他还分析了大语言模型可能引发的问题、风险及社会影响，如幻象问题、超人智能和就业市场变化，并展望了AI技术作为社会基础设施的未来。

王楠：AI变革下的工具开发者视角

Jina AI联合创始人兼CTO王楠从工具开发者角度出发，总结了ChatGPT时代下开发者面临的挑战与应对策略，包括关注开发者痛点、系统集成和反馈的重要性。他展望了2024年可能出现的趋势，如模型架构同质化、开源模型的兴起、闭源模型的主导、算力问题缓解、高质量文本数据的稀缺性，以及文字作为交互核心的持续作用。

黄玄：前端的动态与未来

字节跨端与Web架构师黄玄以“前端已死，前端永生”为主题，探讨了前端的动态概念及其在技术与行业分工中的意义。通过历史拐点的分析，他提出了前端作为人与机器连接纽带的永恒价值，并展望了AI与元宇宙对前端带来的新机遇。

年度影响力榜单发布

大会最后，举行了“2023掘金年度影响力榜单”发布仪式，表彰了为社区贡献优质内容的团队和个人，互联网技术精英汇聚一堂，共同见证这一荣誉时刻。

总结与展望

本次技术演讲为开发者提供了一个全面深入的技术交流平台，不仅回顾了2023年的技术发展，还展望了2024年的科技前景。希望这些讨论与见解能为开发者在面对机遇与挑战时提供宝贵的指导与启示，稀土掘金社区将继续与开发者同行，共同推动技术进步与创新。