Datasets:

DataCanvasAILab
/

Titan-CV-Agent-Benchmark

@@ -4,6 +4,8 @@
 **The Titan CV Benchmark is primarily designed to evaluate the performance of AGENTS in the field of computer vision (CV).** We have collected more than 200 test examples to comprehensively test the performance of the agent, particularly their capability to solve problems step by step.
 ## Basic principles
@@ -20,6 +22,16 @@ In order to distinguish the traditional benchmark of VLM, all collected samples
 ## Quantity Classification
 This test set collects most of the CV problems on the market and divides them into **4 categories and 22 subcategories**:
@@ -104,7 +116,7 @@ This test set collects most of the CV problems on the market and divides them in
 Each data item contains 6 fields:
-```json
 "id": Data item number, named according to "categories_subcategories_items".
 "media_path": The path to the media file associated with the data item.
 "media_type": Media type that the data item depends on.

 **The Titan CV Benchmark is primarily designed to evaluate the performance of AGENTS in the field of computer vision (CV).** We have collected more than 200 test examples to comprehensively test the performance of the agent, particularly their capability to solve problems step by step.
+**Demo Video: https://youtu.be/dcUb4lUnGj4**
 ## Basic principles
+## Titan CV Agent Series
+[Titan CV Agent Sandbox](https://github.com/DataCanvasAILab/Titan-CV-Agent-Sandbox)
+[Titan CV Agent Executor](https://github.com/DataCanvasAILab/Titan-CV-Agent-Executor)
+[Titan CV Agent Benchmark](https://github.com/DataCanvasAILab/Titan-CV-Agent-Benchmark)
 ## Quantity Classification
 This test set collects most of the CV problems on the market and divides them into **4 categories and 22 subcategories**:
 Each data item contains 6 fields:
+```
 "id": Data item number, named according to "categories_subcategories_items".
 "media_path": The path to the media file associated with the data item.
 "media_type": Media type that the data item depends on.

README_CN.md CHANGED Viewed

@@ -1,6 +1,8 @@
 # Titan 计算机视觉智能体评测基准
-Titan 计算机视觉智能体评测基准主要用于测试CV领域的Agent性能。我们广泛收集了200多条测试样例全面测试智能体的性能，尤其是其分步骤解决问题的能力。
@@ -8,13 +10,23 @@ Titan 计算机视觉智能体评测基准主要用于测试CV领域的Agent性
 为了区别传统测试视觉-语言模型的评测基准，所有收集的样例将遵循以下原则：
-① 模态多样，包括各种类型的图片和视频。领域丰富，包含工业、医疗、农业、环境、社交、文化、体育以及科学研究等多种领域。
-② 每个问题将尽力维持其复杂性，不是任何一步（例如只使用VLM）就能够解决的。而是需要多步骤的串行思考。
-③ 每个问题将专注考察智能体的智能，它必须对人类简单、对机器复杂，它看起来不复杂，除了医学领域，可以被任何一个毫无经验的成年人轻易理解，但需要充分调动其思考、认知能力。对于机器来说，传统的背诵、计算、速度优势是无益于解出这些题目的，需要其与人类相似的空间认知或高级理解能力。
-④ 每个问题是复杂的，但答案是简单的、可验证的，避免开放式问答对结果检验的压力，如果类似位置区别的问题，为避免歧义，会给予一定的选项，但同时为了避免智能体猜测到正确答案，备选答案通常会设置到6个以上，降低其猜测的风险。
@@ -98,7 +110,7 @@ Titan 计算机视觉智能体评测基准主要用于测试CV领域的Agent性
 每个数据项包含6个字段：
-```json
 "id": 数据项编号，按照“大类_小类_标号”命名。
 "media_path": 数据项依赖的媒体位置。
 "media_type": 数据项依赖的媒体类型。
@@ -176,24 +188,24 @@ Titan 计算机视觉智能体评测基准主要用于测试CV领域的Agent性
-## Acknowledgments
-This project is supported by
-***[Datacanvas - Empowering AI Native Businesses Worldwide](https://www.datacanvas.com/en/AboutUs)***
-> TEL: +86 400-805-7188
 >
-> Email: [email protected]
 >
-> Beijing Office: 6F&8F, Building C, HEYING Center, 10 Xiaoyingxi Road, Haidian District, Beijing, China
 >
-> Shanghai Office: 10F, Building 1, SHIBEI TBC Center, Lane 1401, Jiangchang Road, Jing'an District, Shanghai, China
-## License
-Titan CV Agent Benchmark uses the following license agreement:
 **Apache License Version 2.0**

 # Titan 计算机视觉智能体评测基准
+Titan 计算机视觉智能体评测基准主要用于测试计算机视觉领域的智能体性能。我们广泛收集了200多条测试样例全面测试智能体的性能，尤其是其分步骤解决问题的能力。
+**演示视频：https://youtu.be/dcUb4lUnGj4**
 为了区别传统测试视觉-语言模型的评测基准，所有收集的样例将遵循以下原则：
+① **模态多样**，包括各种类型的图片和视频。领域丰富，包含工业、医疗、农业、环境、社交、文化、体育以及科学研究等多种领域。
+② 每个问题将尽力维持其复杂性，不是任何一步（例如只使用VLM）就能够解决的。而是需要**多步骤的串行思考**。
+③ 每个问题将**专注考察智能体的智能**，它必须对人类简单、对机器复杂，它看起来不复杂，除了医学领域，可以被任何一个毫无经验的成年人轻易理解，但需要充分调动其思考、认知能力。对于机器来说，传统的背诵、计算、速度优势是无益于解出这些题目的，需要其与人类相似的空间认知或高级理解能力。
+④ 每个问题是复杂的，但**答案是简单的、可验证的**，避免开放式问答对结果检验的压力，如果类似位置区别的问题，为避免歧义，会给予一定的选项，但同时为了避免智能体猜测到正确答案，备选答案通常会设置到6个以上，降低其猜测的风险。
+## Titan 计算机视觉智能体系列
+[Titan 计算机视觉智能体沙箱](https://github.com/DataCanvasAILab/Titan-CV-Agent-Sandbox)
+[Titan 计算机视觉智能体执行器](https://github.com/DataCanvasAILab/Titan-CV-Agent-Executor)
+[Titan 计算机视觉智能体评测基准](https://github.com/DataCanvasAILab/Titan-CV-Agent-Benchmark)
 每个数据项包含6个字段：
+```
 "id": 数据项编号，按照“大类_小类_标号”命名。
 "media_path": 数据项依赖的媒体位置。
 "media_type": 数据项依赖的媒体类型。
+## 致谢
+此项目由北京九章云极科技有限公司提供支持：
+***[九章云极 - 助力全球企业智能升级](https://www.datacanvas.com/AboutUs)***
+> 咨询热线：+86 400-805-7188
 >
+> 电子邮件：[email protected]
 >
+> 北京职场：北京市海淀区和盈中心C座6层&8层
 >
+> 上海职场：上海市静安区市北壹中心1号楼10层
+## 许可证
+Titan 计算机视觉智能体评测基准将使用下列许可证:
 **Apache License Version 2.0**