get_ip_list.py

get_ip_list.py脚本用于获取Ray head节点的ip。

在run_vllm_multi_node.sh中会用到，无需修改。

from rank_table_tools import RankTableTools

import sys

def get_ip_list(group_id_list):
    rtTools = RankTableTools()
    ki_global_rank_table = rtTools.get_ki_global_rank_table()
    server_ip_list = []
    for group_id in group_id_list:
        server_ip_list.append(ki_global_rank_table['server_group_list'][int(group_id)]["server_list"][0]["server_ip"])
    return server_ip_list

def main(argv):
    group_id_list = argv[1].split(',')
    server_ip_list = get_ip_list(group_id_list)
    print(*server_ip_list, sep=',')

if __name__ == "__main__":
    main(sys.argv)