一位开发者训练了一个1.25亿参数的Transformer模型,能在iPhone 15上实时补全钢琴演奏,推理速度约108音符/秒,完全在设备端通过Core ML运行。其理念类似GitHub Copilot,但以MIDI音符而非代码作为提示输入。应用免费试用,作者也愿意分享训练经验和踩过的坑。
背景
随着移动芯片算力提升,在设备端运行AI推理已成为趋势。Core ML使Apple设备能够在低延迟、无需联网的情况下运行机器学习模型。
- 来源
- Hacker News (RSS)
- 发布时间
- 2026年8月20日 20:04
- 评分
- 6.0 / 10