PANews 7月16日消息，據Decrypt報導，PrismML發佈Bonsai 27B模型，這是首個能夠在消費級智能手機上運行的270億參數AI模型。該模型被壓縮至3.9GB，可在iPhone 17 Pro Max上以每秒11個token的速度運行。三進制變體壓縮至5.9GB，在M5 Pro筆記型電腦上達到每秒26個token。壓縮技術基於加州理工學院知識產權，將每個模型權重從16位浮點精度降至僅正1或負1，二進制變體比全精度模型小14倍。在15項基準測試中，三進制Bonsai 27B平均得分80.49，達到全精度模型94.6%的效能。該模型以Apache 2.0許可證免費發佈。PrismML CEO Babak Hassibi確認公司正與蘋果就壓縮技術進行早期談判，下一步計劃壓縮Gemma模型。

此前昨日消息，蘋果正洽談一家可壓縮AI模型、使其能在iPhone本地運行的新創企業。