LLaMA

Articles related to "LLaMA"

2 articles in total

Ishank Sharma

这份领英档案系统呈现了 Ishank Sharma 作为一线前线部署工程师的完整职业图谱。他当前在 Prentis AI 担任 FDE,全权负责从需求探索到完整落地的定制化 AI 部署。在此之前,他在 CommerceIQ 先后任职于印度班加罗尔和美国长滩,从 SDE 实习生一路成长为 FDE。其技术实绩非常硬核:他主导构建了基于 AWS 生态(Step Functions、SQS、Lambda)的媒体预算推荐系统,将数据处理周期从 1 天极致压缩至 3 分钟,每年为客户节省 20 万美元;通过精准的数据仓库迁移策略,将工作负载从 Snowflake 迁至 Databricks,实现了基础设施成本直降 52% 并提升 80% 查询延迟性能。在创业公司经历中,他深入探索了 GenAI 的应用工程边界,构建了多租户 SaaS 分析平台,并针对 LLaMA、OpenAI 和 Gemini 三大模型体系对 Text-to-SQL 推理管线进行了严格的性能基准测试与多维度优化。值得注意的是,他极其注重职业认证的含金量,持有 Educative 颁发的 Forward Deployed Engineer for AI Systems 专业认证、Anthropic 的 Claude Code 实操认证,以及覆盖 MCP 协议与 Agent 开发的系列前沿微证书。教育层面,他在加州州立大学长滩分校深造计算机科学的同时,曾担任可解释与伦理 AI 课程的助教,显示出对负责任 AI 的深度关注。整体来看,这是一份集全栈工程(Python/SQL/React)、云原生(AWS/Docker)、数据工程与前沿大模型应用能力于一体的复合型 AI 部署工程师档案。

Read More

LLMOps 实战:设计、部署和管理高级聊天机器人的框架

本文是一篇系统文献综述(SLR),分析了39篇关于基于大语言模型(LLM)的聊天机器人实现的研究,旨在总结架构、框架、最佳实践和评估指标。研究探讨了六个关键问题,识别出常见的架构模式,包括客户端-服务器架构和检索增强生成(RAG),并列举了广泛使用的模型,如GPT家族、BERT、LLaMA和Mistral等开源模型。论文评估了这些模型在不同领域的表现,强调微调、提示工程和嵌入技术对准确性和领域相关性的影响。关键评估指标涵盖准确性、用户满意度、内容质量、安全性和效率。伦理方面的讨论包括数据治理、偏见缓解和公平审计,以确保负责任地部署LLM聊天机器人。最后,综述分析了性能、成本效率和可扩展性之间的权衡,为未来的LLM聊天机器人应用研发提供了一个综合框架。文章发表在IEEE Transactions on Knowledge and Data Engineering期刊上,作者为Eindhoven University of Technology的Willem Jan Van Den Heuvel,属于LLMOps领域的学术贡献。

Read More