综合

马斯克第二款AI产物PromptIDE宣告,Grok的开拓离不开它

时间:2010-12-5 17:23:32  作者:热点   来源:热点  查看:  评论:0
内容摘要:网友:xAI 团队的开拓速率简直是疯了!距离马斯克的 xAI 宣告 Grok 才以前一天,适才,xAI 又宣告了另一款 AI 产物,一个可用于 prompt 工程以及可批注性钻研的集成开拓情景:Pro

网友:xAI 团队的克第款开拓速率简直是疯了!

距离马斯克的宣告 xAI 宣告 Grok 才以前一天,适才 ,拓离xAI 又宣告了另一款 AI 产物,不开一个可用于 prompt 工程以及可批注性钻研的克第款集成开拓情景 :PromptIDE。

间断不断的宣告新品宣告,也让网友纷纭感慨 :「xAI 团队的拓离开拓速率简直是疯了 !」

xAI 在民间博客中这样介绍 :PromptIDE 是不开一个用于 prompt 工程以及可批注性钻研的集成开拓情景 。它经由 SDK 减速 prompt 工程 ,克第款而且该 SDK 可能实现重大的宣告 prompt 技术,还能妨碍服从合成 ,拓离可视化收集输入等 。不开

值患上留意的克第款是  ,xAI 在 Grok 的宣告开拓中大批的运用了该技术。

借助 PromptIDE,拓离工程师以及钻研职员可能透明的碰头 Grok-1 模子(为 Grok 提供反对于的模子) 。该 IDE 可能辅助用户快捷探究咱们大模子 (LLM) 的功能。IDE 的中间是一个 Python 代码编纂器,它与新的 SDK 相散漫,可能实现重大的 prompt 技术 。在 IDE 中实施 prompt 时 ,用户会看到一些比力实用的合成 ,好比采样多少率、聚合留意力掩码等。

该 IDE 会自动保存所有的 prompt 并具备内置版本操作 ,还应承用户比力差距 prompt 技术的输入。最后 ,用户可能上传 CSV 文件等小文件 ,并运用 SDK 中的单个 Python 函数读取它们 。散漫 SDK 的并发特色 ,纵然是稍大的文件也能快捷处置。

下面是 IDE 主要功能演示 。

代码编纂器 & SDK

PromptIDE 的中间是代码编纂器 + Python SDK,其中 SDK 提供了一种新的编程范式,可能实现重大的 prompting 技术  。 

如上图所示 ,用户可能运用 prompt () 函数手动将 token 削减到高下文中 ,也可能运用 sample () 函数凭证高下文天生 token。 

此外 ,多个 web worker 可能同时运行,这象征着用户可能并行实施多个 prompt 。

用户也可能运用统一挨次中的多个高下文来实现重大的 prompting 技术 。假如函数运用 @prompt_fn 拆穿器妨碍诠释,则它将在自己的新高下文中实施,该函数可能自力于其父高下文实施一些操作。这种编程范式反对于具备恣意嵌套子高下文的递归以及迭代 prompts  。

并发性 :SDK 运用 Python 协程来并发处置多个带 @prompt_fn 诠释的 Python 函数 ,从而减速光阴历程,特意是在处置 CSV 文件时  。

用户输入:Prompt 可能经由 user_input () 函数妨碍交互。user_input () 函数返回用户输入的字符串,而后可能经由 prompt () 函数将其削减到高下文中 。运用这些 API,惟独四行代码即可实现谈天机械人 :

文件 :开拓职员可能将较小的文件上传到 PromptIDE(每一个文件至多 5 MiB ,总共至多 50 MiB),并在 prompt 中运用他们上传的文件。read_file () 函数以字节数组方式返回任何上传的文件。这些与下面提到的并发特色散漫起来,可能实现对于 prompt 妨碍批处置 。

合成:在实施 prompt 时,用户会看到详细的 token 合成,以辅助他们更好地清晰模子的输入 。

当用户运用 user_input () 函数时,窗口中会展现一个文本框 ,用户可能在其中输入照应 。下面的屏幕截图展现了实施下面列出的谈天机械人代码片断的服从 。

最后,当不需要对于 token 妨碍可视化时,还可能以 markdown 方式泛起高下文,之后退易读性 。

参考链接�:https://x.ai/prompt-ide/参考链接:https://x.ai/prompt-ide/
copyright © 2024 powered by 绵掌平晓网   sitemap