OpenAI近日推出了一款名为Sora的TikTok风格应用，凭借其强大的AI生成视频功能迅速引发关注。然而这款应用上线后却遭遇内部争议，因平台充斥着大量CEO奥尔特曼的深度伪造视频而饱受诟病。多位现任及前任研究员在社交平台上公开表达担忧，质疑此举是否违背了OpenAI”开发惠及人类AI”的核心理念。
预训练研究员霍尔曼在接受采访时坦言，虽然AI信息流存在令人担忧的一面，但他仍然肯定团队在优化用户体验方面所做的努力。哈佛大学教授巴拉克也指出，尽管Sora在技术上令人惊叹，但社会各界仍需警惕社交媒体可能带来的沉迷机制。前研究员潘迪更是借此机会推广自己专注科研的新创公司，并直言”我们不应打造无休止的内容生成器”。
面对外界的质疑声，奥尔特曼解释称，为了实现盈利并支撑通用人工智能的研发，OpenAI需要通过展示酷炫技术来吸引投资。OpenAI方面强调，已经采取了多项防沉迷措施，包括使用时长提醒以及优先展示熟人内容等功能。不过有分析指出，应用中点赞触发动态表情的设计，仍然被指刻意增强用户粘性，这可能进一步加剧社交媒体沉迷问题。
尽管技术进步令人兴奋，但如何平衡创新与伦理始终是AI领域需要思考的重要课题。OpenAI的Sora应用为我们提供了一个典型案例，它既展示了AI技术的无限可能，也引发了关于技术边界与社会责任的深刻讨论。未来，随着AI技术的不断发展，我们或许需要建立更加完善的监管机制，以确保这项强大的技术能够真正造福人类。
