如今(jīn),人工智能已成为(wéi)普遍的流行(háng)语,但大多数消费者可能不知道(dào)它如何与日常生活息息相(xiàng)关。分析(xī)人员和技术新闻界中的某些(xiē)人可能(néng)还(hái)会嘲笑该(gāi)术语用(yòng)于某些几乎(hū)不像真正的(de)人工智能(néng)的技术的频率(lǜ)。也就是说(shuō),除了(le)强(qiáng)大的数据中(zhōng)心外,还有一些平台对于AI处理和驱动它(tā)们的NN(神经网络)来说是很自然的。其中之一是(shì)AI推理(使用AI推理信息,而不是训练NN)在边缘和口(kǒu)袋(dài)中,使用智能手机。
就像您想象的那样,从androids到Apple的智能手机平台差别(bié)很大,但是语音-文本(běn)翻译和推荐(jiàn)器(qì)引擎(例(lì)如Google Assistant和Siri)等常(cháng)见(jiàn)工作负载大量使用了常见的AI NN模型,在设备上执(zhí)行此操作(zuò)可提高速度(dù)和延迟。
衡(héng)量移动设备(bèi)中的AI性能
随着任何新设备的推出(chū)以及热门新应(yīng)用的出现,精通技术(shù)的消费(fèi)者和技术媒体成员希望能够衡(héng)量和收集各种移动生态(tài)系统中设备的(de)相(xiàng)对性能。此外,目前智能手机测试和评论(lùn)中的AI处理性(xìng)能正在发展,因此,在主(zhǔ)要的应用商店(diàn)中当然会(huì)出(chū)现(xiàn)多(duō)种(zhǒng)工具,这些(xiē)工具声称能够测量电话和(hé)其他移动(dòng)设备的AI性(xìng)能。而且-您猜(cāi)对了-这些(xiē)应用程序的创建肯(kěn)定不尽相同。为了解决(jué)这个问题,Marco和我深(shēn)入研究了HotHardware,分析(xī)了三种(zhǒng)主流AI基(jī)准测(cè)试中各种旗舰(jiàn)androids手(shǒu)机的性能,这些基准在某(mǒu)些(xiē)情况下会(huì)产(chǎn)生截然(rán)不同的结果(guǒ)。
关键是要更好地了解实(shí)际(jì)测试的特定基准度量(liàng)标准(zhǔn)。测(cè)试是否(fǒu)代表(biǎo)尽可能(néng)接(jiē)近实际的工作(zuò)负载?理(lǐ)想的(de)基(jī)准测试使用的是消(xiāo)费(fèi)者可(kě)能会使(shǐ)用的实际应(yīng)用程(chéng)序,但短短的基准测试(shì)可以使用流行应用程序的相同核心(xīn)软件组件来代表实际的性能期(qī)望。在这种(zhǒng)情况下,这意味着我们需要了解这(zhè)些基准测试工具要(yào)针对哪些NN进行测试,以及要(yào)使用哪(nǎ)些数学精度(dù)和(hé)AI算法来处理这些工作量(liàng)。