GPT-4V 学会自动主管电脑，这一天终于如故到来了。

只需要给 GPT-4V 接入鼠标和键盘，它就能字据浏览器界面上网：

甚而还能快速摸明晰“播放音乐”的播放器网站和按钮，给我方来一段 music：

是不是有点细想极恐了？

这是一个 MIT 本科生小哥整出来的新活，名叫 GPT-4V-Act。

只需要几个苟简的器具，GPT-4V 就能学会放浪你的键盘和鼠标，用浏览器上网发帖、买东西甚而是玩游戏。

如若用到的器具出 bug 了，GPT-4V 甚而还能相识到、并试图处理它。

来望望这是若何作念到的。

GPT-4V-Act，实质上是一个基于 Web 浏览器的 AI 多模态助手（Chromium Copilot）。

它不错像东说念主类不异用鼠标、键盘和屏幕“检验”网页界面，并通过网页中的交互按键进行下一步操作。

要收场这种成果，除了 GPT-4V 除外，还用到了三个器具。

一个是 UI 界面，不错让 GPT-4V“看见”网页截图，也能让用户与 GPT-4V 发生交互。

这么，GPT-4V 就能将每一步运转想路王人通过对话框的体式反应出来，用户来决定是否要不时让它操作。

另一个是 Set-of-Mark Prompting（SoM）器具，让 GPT-4V 学会交互的一款器具。

这个器具由微软发明，野心是更好地对 GPT-4V 进行教导词工程。

比较让 GPT-4V 径直“看图话语”，这个器具不错将图片环节细节拆分红不同的部分，并进行编号，让 GPT-4V 有的放矢：

关于网页端亦然如斯，Set-of-Mark Prompting 用近似的形势让 GPT-4V 知说念从网页浏览器的哪个部分找谜底，并进行交互。

终末，还需要用到一个自动标注器（JS DOM auto-labeler），不错将网页端扫数能交互的按键标注出来，让 GPT-4V 决定要按哪个。

一套经过下来，GPT-4V 不仅能准确判断图片上的哪些内容稳妥需求，还能准确找到交互按键，并学会“自动上网”。

这是个大名目，当今还只收场了部分功能，包括点击、打字交互、自动标注等。

接下来，还有其他的一些功能要收场，举例试试 AI 打标器（当今网页端的交互如故通过通过 JS 接口得知那里能交互，不是 AI 识别的）、以及教导用户输入翔实信息等。

此外，作家也提到，现阶段 GPT-4V-Act 用法上还有一些需要细心的场地。

举例，GPT-4V-Act 可能会被网页大开后阵容汹汹的弹窗小告白给“整懵了”，然后出现交互 bug。

又举例，当今这种玩法可能会违背 OpenAI 的家具使用规章：

是以用的时期也要低调小数（doge）

这个名目在网上发出后，劝诱了不少东说念主的围不雅。

像是小哥用到的微软 Set-of-Mark Prompting 器具的作家，就发现了这个名目：

还有网友提到，甚而不错用来让 AI 我方读取考证码。

这个在 SoM 名目中提到过，GPT-4V 是能得手解读考证码的（是以以后可能还真不知说念是东说念主如故机器在上网

）。

与此同期，也有网友一经在设想桌面流自动化（desktop automation）的操作了。

对此作家回复称：

不外当今 GPT-4V 如故要收费的，有莫得其他的收场表情？

作家也示意，当今还莫得，但照实可能会尝试 Fuyu-8B 概况 LLaVAR 这么的开源模子。

免费的自动化桌面流 AI 助手，不错期待一波了。

参考勾搭：

imtoken比特派

本文来自微信公众号：量子位 （ID：QbitAI），作家：萧箫

第一位012路号分布为2:5:3，本期第一位应注意0路号开出，看好06。

红球三区比为2:3:1，大小比为3:3，奇偶比为3:3，连码开出05,06，重复号码出现3枚06,20,33。

亚眠自降级至法乙赛场后，连续两个赛季拿到了中游排名，表现中规中矩。本赛季，球队开局表现不错，目前取得了4胜1平2负的战绩，高居第三位，其中主场3胜1平保持不败，抢分能力十足。上轮联赛，球队主场以0比0战平了落魄的瓦朗谢纳，近四轮比赛只有一胜，抢分势头出现了下滑。

圣埃蒂安作为法甲传统豪强，新冠疫情开始后遭遇了财政问题的困扰，上赛季降级至法乙赛场后，在遭遇了扣分后，最终只拿到了中游排名。本赛季，球队开局表现中规中矩，目前拿到了11个积分，暂列第八位，场均进失球均在一个上下，球风稳健。上轮联赛，圣埃蒂安以1比0击败了升班马孔卡诺，近五轮比赛保持不败，西索科打进了制胜进球。

告白声明：文内含有的对外跳转勾搭（包括不限于超勾搭、二维码、口令等体式），用于传递更多信息，节俭甄选时期，收尾仅供参考比特派内测版下载，IT之家扫数著作均包含本声明。

　　声明：新浪网独家稿件，未经授权欺压转载。 -->