-
cache table使用指导
![]()
。 但需要注意的是，被cache的表会占用executor的内存。尽管在Spark SQL采用压缩存储的方式来尽量减少内存开销、缓解GC压力，但当缓存的表较大或者缓存表数量较多时，将不可避免地影响executor的稳定性。 此时的最佳实践是，当不需要将表cache来实现查询加速时
来自：帮助中心 -
cache table使用指导
![]()
。 但需要注意的是，被cache的表会占用executor的内存。尽管在Spark SQL采用压缩存储的方式来尽量减少内存开销、缓解GC压力，但当缓存的表较大或者缓存表数量较多时，将不可避免地影响executor的稳定性。 此时的最佳实践是，当不需要将表cache来实现查询加速时
来自：帮助中心 -
Cache
![]()
//用于检查缓存中的数据是否与查询的数据语义相似，如果相似，就返回缓存中的结果对象。这个操作需要使用向量和相似度的计算，以及设置的阈值来判断 //例如，查询“缓存存在？”这个问题和“test-semantic-cache-vector-001”这个会话标识，就可以从缓存中获取到之前保
来自：帮助中心 -
Cache
![]()
assert cache_value_after is not None print(cache_value_after.answer) # 校验，相似 # 用于检查缓存中的数据是否与查询的数据语义相似，如果相似，就返回缓存中的结果对象。这个操作需要使用向量和相似度的计算，以及设置的阈值来判断
来自：帮助中心 -
Cache/IO
![]()
Cache/IO STATIO_USER_TABLES SUMMARY_STATIO_USER_TABLES GLOBAL_STATIO_USER_TABLES STATIO_USER_INDEXES SUMMARY_STATIO_USER_INDEXES GLOBAL_STATIO_USER_INDEXES
来自：帮助中心 -
Cache/IO
![]()
Cache/IO STATIO_USER_TABLES SUMMARY_STATIO_USER_TABLES GLOBAL_STATIO_USER_TABLES STATIO_USER_INDEXES SUMMARY_STATIO_USER_INDEXES GLOBAL_STATIO_USER_INDEXES
来自：帮助中心 -
Cache/IO
![]()
Cache/IO STATIO_USER_TABLES SUMMARY_STATIO_USER_TABLES GLOBAL_STATIO_USER_TABLES STATIO_USER_INDEXES SUMMARY_STATIO_USER_INDEXES GLOBAL_STATIO_USER_INDEXES
来自：帮助中心 -
训练环境中不同规格资源“/cache”目录的大小
![]()
训练环境中不同规格资源“/cache”目录的大小 在创建训练作业时可以根据训练作业的大小选择资源。 ModelArts会挂载硬盘至“/cache”目录，用户可以使用此目录来储存临时文件。“/cache”与代码目录共用资源，不同资源规格有不同的容量。 k8s磁盘的驱逐策略是90%，
来自：帮助中心 -
Cache/IO
![]()
Cache/IO STATIO_USER_TABLES SUMMARY_STATIO_USER_TABLES GLOBAL_STATIO_USER_TABLES STATIO_USER_INDEXES SUMMARY_STATIO_USER_INDEXES GLOBAL_STATIO_USER_INDEXES
来自：帮助中心 -
Cache/IO
![]()
Cache/IO STATIO_USER_TABLES SUMMARY_STATIO_USER_TABLES GLOBAL_STATIO_USER_TABLES STATIO_USER_INDEXES SUMMARY_STATIO_USER_INDEXES GLOBAL_STATIO_USER_INDEXES
来自：帮助中心 -
使用kv-cache-int8量化
![]()
--int8_kv_cache 运行完成后，会在output_dir下生成量化后的权重。量化后的权重包括原始权重和kvcache的scale系数。 Step2 抽取kv-cache量化系数 该步骤的目的是将Step1使用tensorRT量化工具进行模型量化中生成的scale系数提取到单独文件中，供推理时使用。
来自：帮助中心 -
使用kv-cache-int8量化
![]()
--int8_kv_cache 运行完成后，会在output_dir下生成量化后的权重。量化后的权重包括原始权重和kvcache的scale系数。 Step2 抽取kv-cache量化系数 该步骤的目的是将Step1使用tensorRT量化工具进行模型量化中生成的scale系数提取到单独文件中，供推理时使用。
来自：帮助中心 -
Cache/IO
![]()
Cache/IO STATIO_USER_TABLES SUMMARY_STATIO_USER_TABLES GLOBAL_STATIO_USER_TABLES STATIO_USER_INDEXES SUMMARY_STATIO_USER_INDEXES GLOBAL_STATIO_USER_INDEXES
来自：帮助中心 -
Cache/IO
![]()
Cache/IO STATIO_USER_TABLES SUMMARY_STATIO_USER_TABLES GLOBAL_STATIO_USER_TABLES STATIO_USER_INDEXES SUMMARY_STATIO_USER_INDEXES GLOBAL_STATIO_USER_INDEXES
来自：帮助中心 -
Cache/IO
![]()
Cache/IO STATIO_USER_TABLES SUMMARY_STATIO_USER_TABLES GLOBAL_STATIO_USER_TABLES STATIO_USER_INDEXES SUMMARY_STATIO_USER_INDEXES GLOBAL_STATIO_USER_INDEXES
来自：帮助中心 -
脚本及作业中引用参数使用介绍
![]()
，这个值在不同的空间下配置不一样，导出导入后需要重新进行配置。 常量是指在不同的空间下都是一样的，导入的时候，不需要重新配置值。 图1 环境变量 具体应用如下： 在环境变量中已新增一个变量，“参数名”为sdqw，“参数值”为wqewqewqe。 打开一个已创建好的作业，从左侧节点库中拖拽一个“Create
来自：帮助中心 -
使用kv-cache-int8量化
![]()
--int8_kv_cache 运行完成后，会在output_dir下生成量化后的权重。量化后的权重包括原始权重和kvcache的scale系数。 Step2 抽取kv-cache量化系数 该步骤的目的是将Step1使用tensorRT量化工具进行模型量化中生成的scale系数提取到单独文件中，供推理时使用。
来自：帮助中心 -
使用kv-cache-int8量化
![]()
--int8_kv_cache 运行完成后，会在output_dir下生成量化后的权重。量化后的权重包括原始权重和kvcache的scale系数。 Step2 抽取kv-cache量化系数 该步骤的目的是将Step1使用tensorRT量化工具进行模型量化中生成的scale系数提取到单独文件中，供推理时使用。
来自：帮助中心 -
使用kv-cache-int8量化
![]()
--int8_kv_cache 运行完成后，会在output_dir下生成量化后的权重。量化后的权重包括原始权重和kvcache的scale系数。 抽取kv-cache量化系数。 该步骤的目的是将步骤1中生成的scale系数提取到单独文件中，供推理时使用。 使用的抽取脚本由vllm社区提供：
来自：帮助中心 -
使用kv-cache-int8量化
![]()
--int8_kv_cache 运行完成后，会在output_dir下生成量化后的权重。量化后的权重包括原始权重和kvcache的scale系数。 Step2 抽取kv-cache量化系数 该步骤的目的是将Step1使用tensorRT量化工具进行模型量化中生成的scale系数提取到单独文件中，供推理时使用。
来自：帮助中心 -
Cache IO Stats
![]()
Blks Read 此表的TOAST表读取的磁盘块数（如果存在）。 Toast Blks Hit 此表的TOAST表命中缓冲区数（如果存在）。 Tidx Blks Read 此表的TOAST表索引读取的磁盘块数（如果存在）。 Tidx Blks Hit 此表的TOAST表索引命中缓冲区数（如果存在）。
来自：帮助中心
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
