feat: vllm support

This commit is contained in:
jialin
2024-09-25 16:17:25 +08:00
parent 0652f850d6
commit 3cd96ba2e8
47 changed files with 1610 additions and 252 deletions
+2 -1
View File
@@ -205,5 +205,6 @@ export default {
'common.button.version': 'Version',
'common.title.delete.confirm': 'Confirm delete',
'common.button.addLabel': 'Add Labels',
'common.button.addSelector': 'Add Selectors'
'common.button.addSelector': 'Add Selectors',
'common.button.addParams': 'Add Parameter'
};
+3 -1
View File
@@ -55,5 +55,7 @@ export default {
'models.table.backend': 'Backends',
'models.table.acrossworker': 'Distribution Across Workers',
'models.table.cpuoffload': 'CPU Offload',
'models.table.layers': 'Layers'
'models.table.layers': 'Layers',
'models.form.backend': 'Backend',
'models.form.backend_parameters': 'Backend Parameters'
};
+2 -1
View File
@@ -198,5 +198,6 @@ export default {
'common.button.version': '版本',
'common.title.delete.confirm': '确认删除',
'common.button.addLabel': '添加标签',
'common.button.addSelector': '添加选择器'
'common.button.addSelector': '添加选择器',
'common.button.addParams': '添加参数'
};
+3 -1
View File
@@ -54,5 +54,7 @@ export default {
'models.table.backend': '后端',
'models.table.acrossworker': '跨 worker 推理',
'models.table.cpuoffload': 'CPU 卸载',
'models.table.layers': '层'
'models.table.layers': '层',
'models.form.backend': '后端',
'models.form.backend_parameters': '后端参数'
};