Solon AI 开发学习 - 2chat - Hello World

1、本地大语言模型（llm）部署

使用 ollama 来运行 Llama3.2 模型（体积较小，约 1gb）

ollama run llama3.2 <em># 也可替换为 deepseek-r1:7b </em>

详细步骤可查阅：如何通过 ollama 搭建本地 AI 环境

2、创建新项目（结合 SOLon-ai 调用 LLM）

可通过 Solon Initializr 快速生成基础工程。项目建立后，引入以下依赖：

<dependency><groupid>org.noear</groupid><artifactid>solon-ai</artifactid></dependency>

3、配置应用参数

在 app.yml 配置文件中添加如下信息：

答辩PPT、千字自述稿一键生成，预测导师提问，答辩一次过！

solon.ai.chat: demo: apiUrl: "http://127.0.0.1:11434/api/chat" <em># 使用完整 API 地址（非 api_base）</em> provider: "ollama" <em># 若使用 ollama 服务，需明确指定 provider</em> model: "llama3.2" <em># 或选择 deepseek-r1:7b 模型 </em>

4、编写配置类与测试逻辑

新建一个名为 DemoConfig 的类，用于构建 ChatModel 并进行初步测试。

import org.noear.solon.ai.chat.ChatConfig;import org.noear.solon.ai.chat.ChatModel;import org.noear.solon.ai.chat.ChatResponse;import org.noear.solon.annotation.Bean;import org.noear.solon.annotation.Configuration;import org.noear.solon.annotation.Inject;import java.io.IOException;@Configurationpublic class DemoConfig { @Bean public ChatModel build(@Inject("${solon.ai.chat.demo}") ChatConfig config) { return ChatModel.of(config).build(); } @Bean public void test(ChatModel chatModel) throws IOException { <em>// 发起请求并获取结果</em> ChatResponse resp = chatModel.prompt("hello").call(); <em>// 输出返回内容</em> System.out.println(resp.getMessage()); }}

5、启动项目查看效果

示例源码下载地址：点击获取