MNLP 研讨会杰出论文奖得主

1. 能否告诉我们是什么促使您开始这项研究的？

起初，我从未想过这个项目会发展成今天的样子。事实上，我最初只是有一个相当模糊的想法，灵感来自《福尔摩斯》或 FBI 这类悬疑推理故事。我设想了一种 AI，能够根据犯罪现场留下的痕迹或线索推断出嫌疑人。当时，我并没有隶属于 KRAFTON，而是一名大学研究实验室的研究生。我尝试自己设计犯罪调查场景，甚至试图构建 2D 地图和环境。问题在于，作为一名学生，要同时设计详细场景并创建地图和模拟环境，几乎是不可能的。作为背景，那是 2024 年，当时“vibe coding”这个概念还不太为人所知，所以我在尝试手动完成所有事情。

最终，我认为使用已经存在的环境会更好，从那时起，我开始采用各种电子游戏作为模拟环境。在朝这个方向开展研究期间，我意外地加入了 KRAFTON，这使我能够与 KRAFTON 一起继续该项目，并最终将其发展到现在的状态。

2. 在众多游戏类型中，你为什么选择 Flash 游戏？

“为什么是 Flash 游戏？”是这项研究中一个非常重要的问题。当时已经有很多电子游戏基准，但它们缺少的一点是，它们并不要求 AI 从头到尾解决游戏中的一个故事弧线。

那么自然的问题就变成了：“为什么从头到尾解决一款游戏很重要？”从研究角度来看，我认为重要的是考察 AI 能否执行需要非常长期且细致规划的长时程任务，而不仅仅是执行简短简单的计划。从游戏设计角度来看，我也认为从头到尾完成给定的故事会符合游戏设计师的原始意图。

另一个问题可能是：“现有的游戏基准测试为什么没有覆盖完整的故事弧线？”一些基准测试使用了过于简单的游戏——人工设计的用于研究的游戏，其中任务只需 10 到 30 次点击即可完成——因此很难说它们涉及解决完整的故事弧线。其他基准测试使用了高度复杂的 AAA 游戏，例如 Red Dead Redemption 2，其中 AI 只被要求玩故事的一小部分，因此不可能解决整个弧线。如果要求完成完整故事，可能需要数十甚至数百小时。除此之外，AAA 游戏还涉及购买成本这一额外问题。

另一方面，Flash 游戏解决了所有这些问题。在互联网上大约 100,000 款 Flash 游戏中，有许多拥有扎实的故事线。所选的冒险游戏还涵盖了广泛的子类型，包括悬疑调查、密室逃脱、视觉小说以及生活或经营模拟。当我们让真实玩家试玩这些 Flash 游戏时，我们发现他们大约能在 20 到 30 分钟内，使用约 1,000 次点击通关。从人类角度来看，这是一个非常理想的区间：游戏完成起来要求不高，但仍需要不可忽略数量的点击和操作。此外，Flash 游戏免费且足够轻量，可以在网页上运行而不受硬件限制。基于这些原因，我们选择了 Flash 游戏作为基准测试。

3. 在研究过程中，最困难的时刻是什么？

一定有很多种类的游戏，为每一款游戏设定标准，可能要求你自己亲自试玩了许多游戏。请随时分享你在搭建研究环境时遇到的困难。这些正是只有作者才能讲述的幕后故事。

事实上，FlashAdventure 是我参与过的所有研究项目中实际约束最多的一个。最令人印象深刻的约束是，我们必须实际把笔记本电脑的控制权交给 AI，让它能够玩游戏。换句话说，由于我们假设了一个基于 GUI 的智能体，它观察真实的电脑屏幕，并通过点击等操作来玩游戏，因此我们不能简单地在服务器上运行实验。于是，我们在实验室里实际摆放了大约 20 台笔记本电脑，排成几行，让 AI 直接在它们上面玩游戏。结果证明这比预期的要困难。

我们的笔记本电脑不够，所以我向熟人借了一些，又从学校租了一些。租赁费用不算低，步行搬运 30 到 40 公斤的设备也很困难。由于许多笔记本电脑同时运行，发热也成了问题；尽管是冬天，房间也变得明显暖和起来。

除此之外，招募参与者以测量人类游戏表现、审阅和分析他们的通关过程，以及支付参与费用也并不容易。此外，由于我们覆盖的游戏数量是以往游戏基准测试的两倍以上——总共 34 款游戏——定义评估指标耗费了大量精力。除了总体成功或失败之外，我们还必须手动设置里程碑或检查点，以评估中间进度和成就。

对于大多数游戏，YouTube 或网上其他地方都有攻略视频，因此我们通过观看这些视频来设置里程碑。然而，对于一些游戏，我记得自己不得不亲自玩一遍来定义里程碑。

令人惊讶的是，在实验过程中，花费资金成了比使用 GPU 更大的瓶颈。我使用的主要模型包括 OpenAI Computer Use Agent 和 Claude Computer-Use 等付费模型。此外，为了评估八个模型在 34 款游戏中的表现，每个模型每款游戏最多需要进行 1,000 次 API 调用，这意味着如果没有足够的资金，实验根本无法进行。幸运的是，在早期阶段，实验室承担了费用，在后期阶段，KRAFTON 提供了大量资金支持，使我们得以成功完成实验。

4. 有没有哪些时刻，AI 让你觉得“人类不会那样做……”？

在论文中，你提到了规划能力较弱、视觉感知受限以及缺乏横向思维，作为 AI 在游戏中失败的原因。如果你能分享一些具体例子，读者们可能会觉得非常有意思。

当我实际在显示器上观看 AI 玩游戏时，它常常让人沮丧到难以坐稳。哈哈。在小尺度上，AI 会反复无法将鼠标移动到目标位置或正确点击。在大尺度上，即使看起来有多种可能的计划，它在实际游戏过程中也会无休止地在相同地点之间来回移动。

在一些游戏中，存在这样的情况：玩家必须根据游戏早期获得的线索，在后期创造性地解决问题。与人类相比，AI 有时拥有线索，但未能记住或组合它们。此外，虽然论文中没有包含这一点，但由于我们让 AI 控制笔记本电脑，偶尔也会出现它离开游戏屏幕、自己开始在电脑上四处游荡的情况——几乎像是一种罢工。

有趣的是，AI 的表现明显因游戏类型而异。在推理调查类游戏或密室逃脱中，故事前期的线索往往会在后期起到决定性作用，因此如果 AI 无法记住线索或进行创造性思考，它几乎什么都解决不了。相比之下，在视觉小说或模拟游戏中，线索并不那么重要；AI 只需做出与故事进展相符的恰当决策，因此往往表现更好。

5. 首尔大学–KRAFTON 合作环境有哪些优势或独特之处？

一些读者可能会觉得一家公司发表学术论文这件事并不常见。我也很好奇你在体验过这两种机构后的感受。例如，公司的基础设施和大学的知识是如何产生协同效应的？

这项研究恰好是由首尔国立大学与KRAFTON合作开展的，就我个人而言，我认为公司的基础设施与大学的知识形成了有意义的协同效应。在大学，我们可以从概念上分析AI智能体仍然缺乏什么，或者未来需要哪些能力，以实现长期目标。在公司，KRAFTON基于其游戏相关专业知识，对具体实现以及AI与游戏的融合做出了重要贡献。正如我前面提到的，如果没有公司的财务资源，我们将无法获得本研究中的所有实验结果。从这个意义上说，我想再次强调公司的支持有多么重要。

6. 在 EMNLP 上最令人难忘的时刻是什么？

请分享你从在现场结识的同行研究者那里获得的任何见解，或任何可能影响你研究理念的经历。

我每年都会参加 NLP 会议，但在这次 EMNLP 上，我尤其被韩国作者之多所触动。我遇到了各种各样的人，从本科生到教授。其中，我与一位基于密室逃脱游戏构建基准的论文的作者进行了一次相当长的交谈，该论文对 FlashAdventure 项目产生了重大影响。我们谈了很多关于 AI，尤其是 LLM，如何能在基于文本的输出，或作为智能体进行高层规划方面达到一定水平的表现——例如，在诸如“移动苹果”这样的基于文本的计划中——但在涉及视觉等多模态信息的情况，或诸如持续生成用于设定并移动到特定坐标的智能体专属命令的低层动作方面，其能力仍然受到严重限制。我们还讨论了是否可能需要 LLM 之外的方法。现在回想起来，我认为这与物理 AI 正在超越 LLM/VLM 基础并转向视频世界模型及类似方法的发展方式相联系。

我也有很多机会与其他国家的研究者交流。例如，在一场 EMNLP 主题演讲中，Heng Ji 教授反复强调，AI4Science 将成为 NLP 领域一个非常重要的挑战。Jana Diesner 教授讨论了 NLP 与计算社会科学的交叉，Hannaneh Hajishirzi 教授介绍了在 AI2 开发的 OLMo 3。我在 EMNLP 工作坊上做邀请报告的经历也极其有趣，接下来我会谈到这一点。

7. 你在邀请报告中最想传达什么？

我听说邀请报告在主题和氛围方面相对灵活。我很好奇你在那种场合下展示了什么，以及你准备它时的意图是什么。

在开展 FlashAdventure 研究以及 KRAFTON 主导的 Orak 等研究期间，我越来越觉得游戏基准可以成为开发 LLM 智能体的重要工具。强化学习目前是大语言模型的主流方向，而强化学习中使用的环境需要定义状态、动作和奖励。市售游戏天然满足这些条件，因此我觉得强调它们的价值很重要。因此，在受邀演讲中，我做了一场 45 分钟的报告，题为“LLM Agents for In-the-Wild Video Game-Playing”。报告涵盖了 Orak、FlashAdventure，并简要介绍了 KRAFTON 目前正在开展的各种 AI 项目。

在演讲过程中以及随后的大量提问中，我感受到比我预期更多的人认同将 AI 与游戏相结合的方向。即使那些没有特别关注游戏的人，也普遍认同游戏这类模拟环境对强化学习至关重要。在演讲中，我还介绍了 KRAFTON 的服务，例如 PUB Ally 和 Smart Joy。之后，在问答环节中，与来自 Microsoft、Sony 和 Midjourney 等机构的研究人员进行深入交流，令人印象深刻；他们早已了解 KRAFTON，并对公司的 AI 整合能力和 AI 专业水平给予了高度评价。

8. 当论文获得 Spotlight Paper 认可时，您有什么感受？

我很好奇你是否预料到了这份认可，哈哈，还是说它让你感到意外。

当然，我很高兴。哈哈。事实上，在参加 EMNLP 之前，我就被告知了这份认可。由于 Orak 也获得了 Outstanding Paper Award，与其只是为 Spotlight Paper 本身感到高兴，不如说我觉得整体结果非常有意义。此外，FlashAdventure 被 EMNLP 2025 Main 接收，我也很高兴它让我有机会在 workshop 上做一场受邀报告。

除了会议之外，报纸文章（https://news.nate.com/view/20251110n38418）被发表，新闻还通过系公告多次分享（https://gsai.snu.ac.kr/category/board-89-GN-XLpzHDEo-20220216190236/ , https://snuti.snu.ac.kr/category/board-215-gn-y4hutp8u-20240523112917/?var_page=2&search_field=ALL&search_keyword=）。我认为这一切之所以可能，都得益于认可。

9. 这项研究是否在你个人方面带来了任何改变，无论是你的思维方式还是对研究的看法？

我的研究方向发生了相当大的变化。此前，我主要关注自然语言处理和对话系统，但之后，我对智能体、强化学习和具身 AI 产生了更浓厚的兴趣。由于我的研究背景并非机器人学或强化学习，我仍然有很多不了解的地方。不过，考虑到物理 AI 发展得有多快，以及研究格局正在发生怎样的变化，我觉得这是一个及时且重要的研究领域。

我也觉得令人着迷的是，尽管最新的 AI 系统在通过世界模型创建游戏或构建世界方面正在快速提升，但它们玩游戏的能力仍然相对较弱。这让我认为，缩小 AI 的生成能力与执行任务能力之间的差距很重要。与此同时，我相信在不久的将来，智能体不仅要在世界中行动，还要与其他人和智能体交谈或沟通，这一点将变得重要。因此，我正在认真考虑具身智能体的社会智能作为未来的研究方向。

10. 就个人而言，这项研究让我觉得 AI 还有很长的路要走。你怎么看？

是的，我同意。尽管 AI 在某些领域表现明显较好，我也认为它在某些领域明显吃力。即使在游戏方面，FlashAdventure 也清楚地表明，AI 在基于文本或基于 CLI 的决策中表现要好得多，而它在 GUI 等多模态信息环境中的长程决策则极其困难。事实上，即使不在多模态设置中，已有几篇论文表明，AI 和 LLM 在多轮环境中的对话或任务执行方面也存在困难。

当然，强化学习及相关方法可以在特定环境中提升性能。不过，我认为最大的挑战将是在人类所设想的那种通用环境中让 AI 表现出色。为此，许多研究领域正在取得快速进展，包括智能体、物理 AI 和世界模型。就个人而言，尽管大语言模型存在幻觉等弱点，但我认为它们已通过精密的强化学习和智能体工程，演变为 Claude Code 和 Codex 等强大的编码智能体。类似地，我希望具身智能体有一天能够通过有效的学习和相关工程，像人类一样在真实的三维世界中运行。

11. 最后的信息

就个人而言，我由衷感激自己能够在 KRAFTON 参与 FlashAdventure 的工作，并取得如此富有回报的成果。由于很少有地方像 KRAFTON 这样真正致力于将 AI 与游戏相结合，我得以在极大的满足感中开展研究，甚至实现了我的一个研究梦想。我仍在 KRAFTON 继续追求并拓展我的研究抱负，希望有机会在不久的将来带来更多好的成果。

文章 MNLP Workshop Outstanding Paper Award Winner 首次出现在 Krafton AI 上。