第465集 - AI革命不会被垄断 | Talk Python To Me Podcast自互联网泡沫以来还没有出现过像AI这样的繁荣景象。这可能看起来像是一个注定由几家科技巨头控制的空间。但Ines Montani认为开源将在AI的未来扮演重要角色。嘉宾简介嘉宾Ines Montani是Explosion.ai的联合创始人也是开源NLP库spaCy的核心开发者。她深度参与Python和AI社区在世界各地的会议上就NLP、大语言模型LLM和开源开发等主题发表演讲。Ines和她的团队开发了多个工具最著名的是spaCy、Prodigy和Prodigy Teams测试版帮助开发者和数据科学家高效地训练、评估和部署AI模型。背景与项目spaCy一个工业级NLP库专注于效率和开发者体验。链接spacy.ioProdigy一个基于Python的数据标注工具可以快速高效地为机器学习创建标注数据。链接prodi.gyProdigy Teams测试版来自Explosion即将推出的产品旨在将可脚本化的数据标注和模型训练带入私有的、自托管或本地环境。大语言模型LLM的兴起与AI热潮自ChatGPT亮相以来人们对AI的兴趣激增甚至非技术人员例如示例中的摩托车销售人员都在询问AI将如何重塑编码和软件开发。虽然LLM具有强大的生成能力但开发者必须权衡数据隐私、幻觉问题以及对大型通用模型的过度依赖等问题。为什么开源对AI至关重要透明度和控制公司希望查看和修改代码在本地运行例如处理医疗或金融数据并避免供应商锁定。模块化软件更小、更专业的模型或组件可以互换使系统更易于解释、测试且更具成本效益。社区与协作开源允许更快的改进、更多的贡献者并且在项目停止维护时能够进行分支。不同类型的模型Ines对比了以下几种模型任务特定模型通常在较小领域进行预训练或针对单一任务进行微调例如用于生物医学文本的命名实体识别。示例来自Allen AI的用于科学和生物医学文本的SciSpaCy。链接allenai.org/ 在其项目中查看“SciSpaCy”编码器模型如BERT用于更广泛的任务然后针对特定目的进行微调。大型生成模型示例包括Llama某中心的模型和Hugging Face上的各种开源模型。这些模型生成文本可以处理更开放式的任务但规模庞大大规模运行成本高昂。原型与生产使用LLM构建原型使用它们快速构建概念验证或标注数据例如利用GPT-4或其他LLM来标注训练示例。精炼和转移学习一旦原型被证明可行就创建一个更小的专业化模型甚至使用基于规则的方法如正则表达式如果其性能优于通用解决方案的话。spaCy LLM一个spaCy组件可以无缝集成大语言模型以执行文本提取等任务便于在基于LLM的原型和更专业化或精炼的模型之间快速切换。监管担忧Ines强调监管产品和高风险用例是有意义的例如AI在法律决策或医疗保健中的应用但监管技术本身可能会无意中只惠及大型科技公司。类比示例GDPR的cookie横幅表明监管实施细节cookies而非实际问题侵入性跟踪导致了烦人的弹窗而没有完全解决隐私问题。过于宽泛的AI监管也可能出现同样的陷阱。AI革命会被垄断吗规模经济虽然大公司可能以更低的单位成本运行庞大的LLM但对于更狭窄的任务更小、更专业化的模型可能更便宜、更准确。网络效应和封闭平台公司当然可以垄断聊天机器人或消费者服务但底层研究和开源模型对所有人仍然可访问。开源与小型模型开源社区发布了许多高性能模型例如Llama变体、Mistral等表明你不需要科技巨头的资源就能在NLP和AI领域创新。相关工具和链接spaCy: spacy.ioProdigy: prodi.gyExplosion.ai 网站新闻、活动和资源: explosion.aiLM Studio本地运行LLM的GUI: lmstudio.aiHugging Face开源模型中心: huggingface.coSciSpaCy: allenai.org/ 搜索“SciSpaCy”Talk Python的NLP和spaCy课程: talkpython.fm/spacy总体要点尽管人们担心少数大公司可能通过昂贵的基础设施和庞大的模型主导AI但开源工具和专业的小型模型提供了真正的替代方案。开发者可以使用大型生成模型构建原型然后精炼或微调出更易于解释、运行成本更低且易于集成的专业模型。最终AI的未来并不局限于少数垄断者开源、社区驱动的协作和模块化的最佳实践将使创新保持广泛的开放性。节目中提到的链接Ines Montani 在 Twitter: _inesmontanispaCy: spacy.ioProdigy App: prodi.gyInes在PyCon立陶宛的演讲: youtube.comLM Studio: lmstudio.aiLittle Bobby Tables: xkcd.comspaCy和NLP课程: talkpython.fm使用我们的链接在Porkbun以1美元价格获取.app、.dev或.foo域名: talkpython.fm/porkbun在YouTube观看本集: youtube.com第465集深度解析: talkpython.fm/465剧集文字记录: talkpython.fm更多精彩内容 请关注我的个人公众号 公众号办公AI智能小助手或者 我的个人博客 https://blog.qife122.com/对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号网络安全技术点滴分享