BrainGPT 将想法转化为文本
一套名为“BrainGPT”的新 EEG 系统声称无需植入物或 MRI 机器就能把大脑信号转成文本，引发了同等程度的兴奋与警惕。评论者指出，它可能为闭锁或瘫痪患者带来帮助，甚至可能催生未来的“心灵感应”界面；但更担心雇主、执法机构和威权国家会将其用于强制用途，以及私人思想被侵蚀。几位技术向参与者还指出，底层研究看起来被夸大了，存在低信号质量、可能的方法学缺陷，而且结果远没有达到科幻式“准确读心”的标题所暗示的程度。
能力与当前表现
- 系统使用 EEG 将阅读时的大脑活动映射为文本；演示输出只是部分、且容易出错的重建结果。
- 示例输出类似非常早期的语音转文字：有些结构/内容正确，很多地方被替换，语法有错误，还有幻觉内容。
- 论文声称具有跨受试者泛化能力（在一个人身上训练，也能在其他人身上某种程度上工作），这让一些人觉得“离谱”且令人担忧。
技术怀疑与方法论批评
- 多位评论者指出，EEG 的信噪比极低；在类似法拉第笼的实验室环境之外，来自肌肉、眨眼和环境的伪影会占主导。
- 一位 BCI 研究者认为，EEG 无法在真实世界环境中支持可靠、快速的通信；对闭锁综合征患者来说，眼动追踪往往比 BCI 更好。
- 对底层 DeWave 模型存在严重担忧：
- GitHub issues 显示评估时可能使用了“teacher forcing”（喂入真实标签 token），从而夸大了结果。
- 据称作者随后“修正”了评估并得到了“并不怎么样”的结果，但没有发布示例。
- 有些人认为这足以使所报告的性能失去可信度，并批评那张看起来像真实输出的示意“Figure 1”的呈现方式。
- 也有人反驳说，深度学习一再从噪声很大的模态中提取出信号，并期待会有渐进但真实的进展。
伦理、隐私与反乌托邦式用途
- 很多人强烈担忧，读心会摧毁最后一块私人空间（思想），“超越 1984”。
- 担心的用途包括：警察/测谎仪替代、刑事与 CSAM 调查、机场安检、法院、雇主和保险公司强制使用设备、父母和宗教控制、类似社会信用的系统。
- 一些人主张：
- 拥有普遍拒绝脑部扫描的权利。
- 禁止将其用于雇佣以及作为法律证据。
- 另一些人认为禁令不现实；技术是“不可避免”的，所以社会应专注于监管滥用，而不是阻止研究。
有益与中性应用
- 被广泛提到的好处：为闭锁、瘫痪、中风或脊髓损伤患者提供通信；有些人认为这甚至优于侵入式植入物。
- 设想包括：结合思维转文字与耳机的双向“心灵感应”、基于思维的编码或绘画、自省和治疗辅助、自动日志/“心智的 stacktrace”。
- 有人认为，亚语音肌肉信号或植入电极目前仍是更实际的路径。
社会与心理层面的反思
- 许多人担心人类还没准备好直接接触他人未经过滤的侵入性想法；预见混乱和污名化。
- 另一些人认为，这会促使人们更诚实地讨论未经过滤的思维、自我控制和心理健康。
- 讨论串还包括更广泛的争论：某些研究方向是否应当自我限制，还是历史上强大技术总会被开发出来并随后被常态化。