谷歌 AI 团队近日重磅推出 MLE-STAR(机器学习工程通过搜索和针对性优化)系统,这是一款突破性的代理系统,致力于自动化并优化复杂的机器学习流程设计。MLE-STAR 通过整合大规模网络搜索、精准代码优化以及强大的检查模块,在多个机器学习工程任务上取得了令人瞩目的成就,其表现不仅超越了传统的自主机器学习代理,更在人类基线方法之上实现了飞跃。
尽管大型语言模型(LLMs)在代码生成和工作流自动化领域已展现出显著潜力,但现有的机器学习工程代理仍面临诸多瓶颈。这些代理往往过度依赖 LLM 的记忆功能,习惯于使用“熟悉”的模型,而忽视了更先进、更具针对性的任务特定方法。此外,在代码修改过程中,它们常采用“一次性全改”的粗放方式,缺乏对数据预处理、特征工程等关键管道组件的深入探索。这种局限性导致生成的代码不仅容易出错,还可能存在数据泄露等安全隐患。
针对这些挑战,MLE-STAR 推出了系列创新解决方案。首先,它通过大规模网络搜索来筛选模型和代码片段,而非仅仅依赖内部“记忆”,确保初始解决方案始终基于当前最佳实践。其次,MLE-STAR 采用双轮优化机制:外部循环通过消融研究精准识别影响性能的关键组件,内部循环则对这些组件进行深度探索与优化。更为独特的是,MLE-STAR 能够创新性地提出并实施集成方法,通过融合多种候选解决方案,实现整体性能的显著提升。
为确保代码质量,MLE-STAR 还引入了多重专业代理保障体系。其中包括自动捕捉并修复 Python 错误的调试代理、实时检查数据泄露的代理,以及确保所有数据文件被充分利用的使用检查代理。这些严谨的机制共同作用,使 MLE-STAR 在各项基准测试中脱颖而出,尤其在 Kaggle 竞赛中表现卓越,大幅提升了金牌和优秀作品率。
MLE-STAR 的开源代码库为研究人员和机器学习从业者提供了宝贵资源,使他们能够将这些先进能力无缝整合到自身项目中,从而显著加速生产力和创新进程。项目地址:https://github.com/nv-tlabs/cosmos1-diffusion-renderer
💡 MLE-STAR 是谷歌推出的先进机器学习工程代理,旨在自动化复杂任务。
🔍 采用网络搜索、针对性优化和多种检查机制,MLE-STAR 显著提升了机器学习工程的效率和质量。
🏆 在 Kaggle 竞赛中,MLE-STAR 表现优异,取得了更高的金牌和优秀作品率。