
摄影/罗正汉
在今年台北国际电脑展(Computex 2024)上,未来有望普及的AI PC,无疑是本场展会最重要的焦点之一,各大笔电厂商展示最新款机型,不仅显露出未来笔电的新样貌,也展现AI加持下的笔电新能耐。
究竟有哪些重要变化?在Computex大会现场各厂商展示的多款新型笔电产品中,最让大家印象深刻的是,Windows笔电上新增了专为AI设计的Copilot按键,通常设置于键盘区右边Alt键的右方,可以快速叫出Windows 11上提供的Windows Copilot功能,让使用者一键就可以启动AI体验,使用Copilot网路服务。
可以想见的是,这个按钮会在AI PC世代佔有重要的地位。比起过往Windows 8的实体Home键的变化,有更大的意义存在。
另一重要变化在于,专门为AI应用而设计的NPU(Neural Processing Unit),如今这项应用开始扩及Windows个人电脑领域。
例如,电脑处理器大厂Intel去年底推出Meteor Lake行动处理器,其架构包含CPU、GPU与NPU,就率先获得多家笔电厂商採用,在2023年底就开始陆续有产品上市。
因此在今年Computex电脑展上,Intel就在摊位上特别陈列了多家厂商的新品,包括:微软Surface Laptop 6、Dell XPS 14(9440)、HP Elitebook 840G11,以及宏碁Swift Go 16、华硕Vivobook S 14(S5406)、技嘉Aorus 15、微星Prestige 13 AI Evo,还有联想IdeaPad Slim 5i、LG Gram Pro、三星Galaxy Book4 Pro、Dynabook Portege X40L-M等,特别的是,Intel不只是陈列各厂商产品,更希望让大家可以透过这些产品先目睹NPU能力的新应用。
新世代笔电可运用NPU帮助AI运算
关于NPU的实际应用场景,是大家都关注的重点,毕竟,过去个人电脑上没有NPU,AI相关运算只能依靠CPU与GPU,尤其是具有平行运算能力的GPU,但随着现今生成式AI技术的兴起,专为加速AI应用而设计的NPU,也成为了新的解决方案。
在今年6月的Computex电脑展上,我们看到Intel展区中就有多项NPU相关技术与应用的实机展示:
(一)资安威胁与防护
首先我们要介绍的应用相当特别,是要保护AI应用程序不被窜改。
在今年Computex的Intel展区上,特别以一台电脑展示一段影片,内容是本机端AI应用程序被窜改、污染的资安风险。
根据现场导览人员的说明,影片中主要呈现出,当使用者在AI应用程序中提出问题,询问「台湾银行网银服务的官方网站网址是什么?」在一般情况下,AI应用程序可回答出正确的网址。
不过,一旦AI模型、知识库没有受到保护,遭到窜改或下毒,这时使用者再次询问同样的问题,由于AI应用程序受到操弄,因此我们看到AI应用程序此时的回答,是一个错误的可疑网址。
关于上述这项AI PC上的资安应用,其实是由趋势科技所提供,该公司亦在Computex设置展区并展示这方面的解决方案,因此他们的现场工作人员在导览时,也向我们提供进一步的说明。
基本上,随着NPU、开源小型LLM的发展,如今在笔电上这样的边缘运算,将让攻击面变得更宽广。因此,趋势科技已经针对AI PC提供资安解决方案,强调Security for AI,聚焦保护AI应用程序不被窜改。
他们解释,因为现今大众普遍使用的生成式AI服务,主要是将资料传回至云端才能处理,但云端上的AI其实都有着企业等级的安全防护,相对而言,当电脑有了NPU之后,各种AI应用程序就能直接在PC上执行,只是本机端的AI模型也就成为新的风险。
另一方面,他们也有提出AI for Security的应用,是发展出由NPU驱动的电子邮件防护。这是因为,趋势科技过去提供的云端Email防护解决方案,有些功能需要将邮件内容去识别化后送至云端处理,像是要识别诈骗邮件等功能,而且这样的应用需要使用者同意后才能送至云端分析。若运用电脑本身NPU来处理,不仅同样可以带来保护,也具有更高的隐私。
(二)手势控制
另一展示情境为手势控制(Gesture Control)的应用。由于现在不只手机,运动相机也都首度开始加入手势控制的能力,在笔电上的应用发展又是如何?
在一台技嘉Aorus 15笔电上所展示的应用场景,是以爱奇艺的Windows App的手势操作功能为例,根据现场人员导览时的说明,该程序在前几年已经加入手势识别AI模型,背后主要利用CPU与GPU来处理分析,可以透过视讯镜头来识别手势,像是掌心张开对着电脑代表停止播放,OK手势代表继续播放,而现在能使用NPU来独立处理,时时分析镜头前的手势操作。因此,与过去运算处理方式相比,将可减轻CPU与GPU的负担,让这些资源可去处理其他工作任务。
(三)眼球追蹤
关于眼球追蹤(Eye-Tracking)这样的技术,多年前我们已经看过这类技术应用的展示,但至今其应用仍迟迟未能普及,今年Computex我们又看到有这样的展示。
在现场一台Dynabook Portege X40L-M电脑上,展示了两个眼球追蹤的场景,首先是一个书架的画面,现场人员向我们说明,我们只要在电脑前,用眼睛注视着画面上的任何一本书,笔电镜头就能侦测使用者的目光焦点,当我们实际这么做,盯着中间右边的乐谱书籍时,该物件真的就会稍微放大,望向其他书时也会有同样效果,如同用眼睛操控滑鼠游标一样的效果。
另一个是X光照片的画面,我们也依据现场导览人员的指出,当我们头部朝向笔电靠近,萤幕上的图片就会跟着放大,看到更清楚的X光断层扫瞄细节,当我们头部往后,图片则会缩小。现场导览人员也说明,有了NPU可以让人眼追蹤时的AI运算,更具能耗上的效益。
(四)Windows AI应用程序
谈到AI PC,大家对于微软提出的Copilot+ PC应该相当印象深刻,而我们在Intel展区也看到一台微软Surface Laptop 6笔电,正展示着Windows 11 24H2将提供给AI笔电的微软AI应用程序,包括即时字幕翻译Live Captions、Windows Studio Effects。儘管这台电脑尚不符合微软对Copilot+ PC的定义,但依然能够展示这些AI应用程序的效果。
例如,笔电上正播放Computex 2024主题演说的YouTube影片,我们可以看到以Live Captions的效果是,可将演讲内容即时产生英文字幕于笔电画面的上方。现场工作人员向我们表示,在这项技术下,包括侦测到的语音,辅助字母的产生,都是在电脑上完成,并不会与云端或微软共用。
同时,这台电脑另一半画面也展示了启用视讯影像下的Camera effect效果,可快速自动对焦与模糊背景,并使视讯的影像更清晰。
(五)写作助手
自从ChatGPT与Gemini等生成式AI服务的出现,现在大家对于上网使用生成式AI服务,命令AI写出一段文章,已经并不陌生。不过,之后使用者也可在笔电不连网、内容不上传云端服务的情形之下,利用自己笔电上的AI应用程序,来执行生成式AI应用。
例如,在Intle展区另一台LG Gram Pro笔电上,所展示的应用就是写作助手。电脑画面上呈现出使用Word编辑文章时,能另外叫出一个具Secure Local机制的写作助手,现场人员表示,其特色在于不用将文字内容上传生成式AI服务,就能快速调整一段写作内容。
从写作助手的功能选单来看,介面上提供了很多写作风格的切换,包括正式、轻鬆、简单,简单扼要,或是需要扩展,甚至也能调整内容为具说服性、具叙述性,或是具资讯性。又或是调整为幽默、严肃、乐观、悲观的语气。此外也有翻译能力,包括中文、英文、西班牙文、日文、韩文等。
随着NPU运算效能提升,以及支援NPU的AI应用程序增加,AI笔电会更有看头
综合来看,虽然上述採用Intel Meteor Lake处理器的产品,其NPU运算能力只有11.5 TOPS,但可预期的是,各家处理器大厂正持续发力,积极提升NPU运算能力。
这是因为今年5月微软、Intel已经透露,未来AI PC的门槛至少要达40 TOPS,目前Intel也已经预告下一代Lunar Lake,其NPU将提升超过40 TOPS。
而在高通与AMD方面,这两家厂商的动作更快,近期已开始推出NPU运算能力更高的处理器,像是高通主打Arm架构的Snapdragon X1系列笔电处理器,其NPU效能达45 TOPS,AMD也已经新发表Ryzen AI系列处理器,其NPU效能达50 TOPS。
再者,绘图AI晶片大厂Nvidia目前也在积极发力,他们认为NPU在效能与支援性上与GPU相比仍有落差,仅依靠NPU只能算基本的AI PC,因此该公司也持续针对AI笔电提供更强的GPU来执行更多AI功能。
综观上述发展,聚焦GPU、NPU的运算效能提升,应该会是接下来新世代笔电持续强调的重点。
我们在这次Computex电脑展上,也首度看到这些新品在台亮相。例如,在宏碁展区所摆设的一台Swift 14 AI的笔电,该产品就是搭载拥有45 TOPS的Sanpdragon X Eltie处理器。
另外在Computex上华硕的展区中,我们也看到一台ProArt PX13,搭载的就是拥有50 TOPS的AMD Ryzen AI 9 HX 370处理器,并还搭载了Nvidia GeFrce3 RTX 4070显示晶片,可增至320 AI TOPS。
不仅能为笔电、PC提供多元的AI运算潜力,也盼能促进体感操作的普及
在AI发展大势之下,由于新世代Windows笔电、PC的处理器都将变成整合CPU、GPU与NPU的架构,从上述各式AI应用方式来看,确实让新世代个人装置有了相当大的变化。
但大家可能也会想到的是,现在生成式AI服务已获大众普遍应用,不论是OpenAI的ChatGPT,Google的Gemini,以及主打AI绘图的Stable Diffusion等,很多应用其实只要我们连上网路就能使用,而且订阅这些云端服务后,可获得更强的能力。
因此,最大重点应该是放在「在装置端执行」这件事,例如,如果不想将敏感资料上传至云端服务,就是大家可能看重的面向;还有一些辅助性的功能,像是手势与眼球的追蹤,视讯上的美肌、自动背景去背与更换等,也很适合交由NPU来执行,让CPU与GPU的资源可以留给其他任务。
值得一提的是,以上述的手势控制、眼球追蹤而言,这些技术其实发展已久,像是Intel在10年前提出Ultrabook概念后,当时还会强调由摄影镜头、软件、传感器所构成的RealSense体感操作技术,聚焦于聚焦于人脸、手势的捕捉,不只要让辨识、追蹤变得更精準,更希望为下一代电脑的操作体验带来革新。然而,后续这类应用,只有Windows Hello登入技术变得普及,
如今随着NPU的应用领域开始扩及Windows电脑产品,由于各大处理器厂商均强调,新的NPU能让处理器以更节能的方式,在笔电上执行AI运算任务。
因此,另一大重点就是「NPU运算功耗低于GPU」的特性,而我们也期盼,在这样的节能效果之下,不只可以发挥多元的AI应用,同时还能促进笔电的体感应用变得真正普及。
当然,PC端应用的发展也值得观察,毕竟PC不像笔电本身就内建视讯镜头与麦克风等,或许All in One(AIO)机型也会再次成为市场焦点。此外,由于PC处理器的运算能力比笔电更好,可负荷更高的AI运算,如何推动更多元化的应用,将是各家电脑厂商的机会与挑战。
无论如何,儘管AI PC可能要等到2025年才会在市场上正式发酵,但初期我们可从上述各式NPU的应用场景,来看出当前AI笔电的新特性,后续可以想见的是,由于笔记各家厂商已经纷纷表态,要提供更好的AI运算能力,要针对AI PC提供更多应用,届时我们应该能见识到AI PC真正的能耐。