fix: vllm run command
This commit is contained in:
@@ -6,5 +6,5 @@ export default {
|
|||||||
'vendor.iluvatar': 'Iluvatar',
|
'vendor.iluvatar': 'Iluvatar',
|
||||||
'vendor.metax': 'Metax',
|
'vendor.metax': 'Metax',
|
||||||
'vendor.cambricon': 'Cambricon',
|
'vendor.cambricon': 'Cambricon',
|
||||||
'vendor.thead': 'T-Head'
|
'vendor.thead': 'T-Head (PPU)'
|
||||||
};
|
};
|
||||||
|
|||||||
@@ -6,5 +6,5 @@ export default {
|
|||||||
'vendor.iluvatar': 'Iluvatar',
|
'vendor.iluvatar': 'Iluvatar',
|
||||||
'vendor.metax': 'Metax',
|
'vendor.metax': 'Metax',
|
||||||
'vendor.cambricon': 'Cambricon',
|
'vendor.cambricon': 'Cambricon',
|
||||||
'vendor.thead': 'T-Head'
|
'vendor.thead': 'T-Head (PPU)'
|
||||||
};
|
};
|
||||||
|
|||||||
@@ -6,5 +6,5 @@ export default {
|
|||||||
'vendor.iluvatar': 'Iluvatar',
|
'vendor.iluvatar': 'Iluvatar',
|
||||||
'vendor.metax': 'Metax',
|
'vendor.metax': 'Metax',
|
||||||
'vendor.cambricon': 'Cambricon',
|
'vendor.cambricon': 'Cambricon',
|
||||||
'vendor.thead': 'T-Head'
|
'vendor.thead': 'T-Head (PPU)'
|
||||||
};
|
};
|
||||||
|
|||||||
@@ -6,5 +6,5 @@ export default {
|
|||||||
'vendor.iluvatar': '天数智芯',
|
'vendor.iluvatar': '天数智芯',
|
||||||
'vendor.metax': '沐曦',
|
'vendor.metax': '沐曦',
|
||||||
'vendor.cambricon': '寒武纪',
|
'vendor.cambricon': '寒武纪',
|
||||||
'vendor.thead': '平头哥'
|
'vendor.thead': '平头哥 (PPU)'
|
||||||
};
|
};
|
||||||
|
|||||||
@@ -226,7 +226,7 @@ default_version: v0.11.0
|
|||||||
health_check_path: /v1/models
|
health_check_path: /v1/models
|
||||||
default_backend_param:
|
default_backend_param:
|
||||||
- --host
|
- --host
|
||||||
default_run_command: vllm serve {{model_path}} --port {{port}} --host {{worker_ip}} --served-model-name {{model_name}}
|
default_run_command: {{model_path}} --port {{port}} --host {{worker_ip}} --served-model-name {{model_name}}
|
||||||
version_configs:
|
version_configs:
|
||||||
v0.11.0:
|
v0.11.0:
|
||||||
image_name: lm/vllm:latest
|
image_name: lm/vllm:latest
|
||||||
|
|||||||
@@ -60,7 +60,7 @@ const BasicForm: React.FC<AddModalProps> = ({ action, currentData }) => {
|
|||||||
{ id: 'common.help.eg' },
|
{ id: 'common.help.eg' },
|
||||||
{
|
{
|
||||||
content:
|
content:
|
||||||
'vllm serve {{model_path}} --port {{port}} --host {{worker_ip}} --served-model-name {{model_name}}'
|
'{{model_path}} --port {{port}} --host {{worker_ip}} --served-model-name {{model_name}}'
|
||||||
}
|
}
|
||||||
)}
|
)}
|
||||||
autoSize={{ minRows: 2, maxRows: 5 }}
|
autoSize={{ minRows: 2, maxRows: 5 }}
|
||||||
|
|||||||
@@ -75,7 +75,7 @@ const CustomBackend: React.FC = () => {
|
|||||||
{ id: 'common.help.eg' },
|
{ id: 'common.help.eg' },
|
||||||
{
|
{
|
||||||
content:
|
content:
|
||||||
'vllm serve {{model_path}} --port {{port}} --host {{worker_ip}} --served-model-name {{model_name}}'
|
'{{model_path}} --port {{port}} --host {{worker_ip}} --served-model-name {{model_name}}'
|
||||||
}
|
}
|
||||||
)}
|
)}
|
||||||
></SealTextArea>
|
></SealTextArea>
|
||||||
|
|||||||
Reference in New Issue
Block a user