Sheep Sparks
搜索
关于

同济大学大模型API使用指南

|
访问
本文共938字。

基于学校提供的大模型API，用户可以较为方便地将DeepSeek-R1-671B等大模型集成到自己的项目或应用中。

1. 同济大学大模型API服务简介

同济大学为全校教师和博士后提供了大语言模型API的调用服务，目前每人可申请500W Token额度。需要注意的是，目前平台提供的API服务仅限校园网内（校园网外需通过VPN）访问。

教师可通过统一身份认证登录系统登录学校的登录信息建设与管理平台，并填写相应表单申请API-KEY，之后请等待信息办相关老师审核。审核通过后API-KEY会被发送至教师邮箱。

学校目前提供了三种模型的调用：

  • DeepSeek-R1（671B）

  • DeepSeek-R1-Distill-Llama-70B

  • DeepSeek-R1-Distill-Qwen-32B

目前课题组已经申请了DeepSeek-R1（671B）的API-KEY，请课题组同学联系组内相关老师获取。学校提供的API-KEY对上下文长度做了部分限制：最大单次输入长度不超过4096，最大输出长度不超过8K，最大上下文长度不超过32K。

计算资源珍贵，各位同学注意不要泄漏大模型API-KEY信息，他人拿到API-KEY会消耗掉账号内的资源。禁止售卖、恶意泄漏校内API-KEY计算资源。如果涉及大量Token消耗，请提前联系课题组内相关老师。

2. API调用示例

API-KEY可提供比网页端更高效、稳定的模型服务，并可集成到自编软件中。以下演示如何分别在Cherry studio和Python中调用学校的API-KEY。

2.1 基于Cherry Studio的模型调用

Cherry Studio是一个支持多服务商集成的AI对话客户端，其可以集成API-KEY并实现模型调用、构建个人知识库等。

首先，下载Cherry Studio并安装。打开软件，在设置界面里添加模型提供商。提供商名称可任意填写（如：同济），提供商类型为OpenAI。在右方输入学校提供的API-KEY密钥，API地址为https://llmapi.tongji.edu.cn/v1/，点击添加->输入DeepSeek-R1。确保自己已经连接到校园内网，点击API密钥旁边的“检查”，应可以看到软件正确识别的绿色对勾符号。

回到对话界面，将对话框左上角模型切换到刚刚设置的同济模型，就可以在对话框中直接和模型对话。

Cherry Studio还支持其他API提供商的API-KEY、支持模型联网、构建个人知识库等服务，请有兴趣的同学点击链接移步至官方软件手册。目前同济API服务商本身不支持联网，通过配置Tavily 服务后，即可实现基于学校API的联网对话功能。

2.2 基于Python的模型调用

一种更灵活的方法是直接用Python调用API，学校的API手册上提供了调用的示例代码：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
from openai import OpenAI

client = OpenAI(
    api_key = "your_api_key",   # 替换为课题组的API密钥
    base_url = "https://llmapi.tongji.edu.cn/v1"
)

chat_completion = client.chat.completions.create(
    model="DeepSeek-R1",
    messages=[
        {
            "role": "user",
            "content": "0110110110110中有几个1?",
        }
    ],
    stream=True
)

# 流式输出结果
for chunk in chat_completion:
    if chunk.choices[0].delta.content is not None:
        print(chunk.choices[0].delta.content, end="", flush=True)

未安装openai库的同学可用pip install openai安装。

需要将上述代码中的"your_api_key"替换为课题组的API密钥。在确保自己连接了校园网的情况下，直接运行上述代码，即可在终端看到模型输出。

共0条搜索结果。