Enterprises want to know more to gain most out of GenAI and LLMs. Continue reading on Medium »

「LLM関連ブックマーク（週毎）をまとめる作業をLLMにやらせてみる」にあるように、毎週あつめたLLM関連ブックマークを、LLMにまとめてもらっている。今週は、まさに出たばかりの、OpenAI gpt-4o-2024-11-20にまとめてもらいました。 gpt-40とGeminiが熾烈な競争展開しているんだけどいったいなにゆえ？？。中華Deepseekってのはo1越え？よっぽどすごいらしい。xAIのGPUデータセンタ稼動の顛末、むちゃくちゃやな、まあ「ゼロ思考」ってのがこれからはやるね！今回試したgpt-4o-2024-11-20、話題をいろいろ拾ってくれるのはいいんだけど、最後は「人間が自分自身の在り方をどう再定義するか」みたいな話に最後は寄っていく傾向がある。それはそれでキャラですな。 続きをみる

Understanding KV Cache and Its Role in Enhancing Large Language Models Continue reading on Medium »

If you are here, I assume you already have some idea about Generative AI and you are interested in knowing more surrounding the part of… Continue reading on Medium »

And why you shouldn’t trust them blindly Continue reading on Bootcamp »

スライドやPDF資料などのドキュメントは、テキストデータだけでなく、図表やレイアウトに情報が含まれています。 このようなドキュメント群にRAGを行う場合、ページに含まれる画像をcaptioningしたり、レイアウトを考慮してチャンキングするなど、複雑なパイプラインを組むことで精度が上がるユースケースもあると思います。 このような構築・保守コストのかかる複雑な前処理パイプラインを避けつつ視覚的な情報も取り入れる手法として、6月にはDocument Screenshot Embedding（DSE）、7月はColPaliという検索モデルなどがリリースされ話題になっていたと思います。 これらを使えば、画像を直接ベクトルにして検索し、結果の画像を直接VLMに入力することで前処理が非常に簡略化されます。 今回は、JDocQAという日本語の画像質問応答データセットを使って、検索手法やモデルの比較を行いました。 後段のVLMの部分ではなく、検索の部分のみ評価しています。 続きをみる

TinyTroupe, is an Agentic AI approach, analysis of this library is as below. Tool’s combination of analytical depth, flexibility, and… Continue reading on AI Advances »

Economics in a tech start up is essentially a game of zeros: how many zeros can you take out of the running cost, how many zeros do you… Continue reading on Effective Programmer »

And turn them into LLM-ready data Continue reading on DataDrivenInvestor »

Data Mastery Series — Episode 33: LangChain Website (Part 8) Continue reading on Donato Story »

In the rapidly evolving field of artificial intelligence, staying updated with the latest research can be overwhelming. To bridge the gap… Continue reading on Medium »

In recent years, the competition to develop faster, more efficient, and more accurate Large Language Models (LLMs) has been heating up… Continue reading on Medium »

お疲れ様です。 日々、ChatGPTをはじめとするLLM（大規模言語モデル）と対話を重ねています。 続きをみる

# chatGPTの振る舞い、性能についてリアルタイムで情報発信を行っています。 同一条件のプロンプト、質問再生成した回答の文字数、句読点や特定ワードの使用頻度を元に評価しています。 #書籍発売中 2023年7月から2024年5月までのGPT4バージョンの変動分析を纏めた電子書籍 （セールで99円で公開中） 続きをみる

CRAGって何？ 続きをみる

昨日ゴールド免許を取得した齊藤です。 久しぶりにLangGraphのチュートリアル確認してみたのですが、ぱっと見でわかりずらいので、簡易的にまとめてみました。（2024年11月23日） 無理矢理、翻訳した箇所もあるのでご愛嬌でお願いします。 こちら公式Tutorialになります https://langchain-ai.github.io/langgraph/tutorials/ ここからクイックスタート LangGraph Quickstart Part1 : ベーシックなチャットボット Part2 : ツール付きチャットボット Part3 : メモリー付きチャ...

A Generative AI agent can be defined as an application that attempts to achieve a goal by observing the world and acting upon it using the… Continue reading on Medium »

まいどです。 本日の生成AIニュース。 続きをみる

ChatGPT含む生成AIの話をするとき、しばしば「プロンプト」という言葉を目にします。 多くの方には今更な話でしょうが、「AIに指示する際の入力文」です。 端的に、誤解を恐れず言えば 「これやってョ、AIちゃ〜ん！」 です。 続きをみる

今日は、ホント久しぶりに Salesforce とはまったく関係ないコミュニティのイベントに参加してきました。 Fullstack AI Dev & Raycast Summit feat. Satoshi Nakajima · Luma※会場の都合上、定員（100名）を超えた場合は、キャンセル待ちとなります。(関係者枠が優先されますのでご了承くださいませ)lu.ma 続きをみる

Introduction Continue reading on Medium »

# chatGPTの振る舞い、性能についてリアルタイムで情報発信を行っています。 同一条件のプロンプト、質問再生成した回答の文字数、句読点や特定ワードの使用頻度を元に評価しています。 #書籍発売中 2023年7月から2024年5月までのGPT4バージョンの変動分析を纏めた電子書籍 （セールで99円で公開中） 続きをみる

本記事の概要 続きをみる

Introduction Continue reading on Snowflake Builders Blog: Data Engineers, App Developers, AI/ML, & Data Science »

お疲れ様です。 日々、ChatGPTをはじめとするLLMと対話を重ねています。 続きをみる

When it comes to editing images, AI generative fill has revolutionized the way we work with visuals. Whether you’re fixing imperfections, adding creative touches, or transforming photos into artistic masterpieces, AI generative fill makes it simple, almost effortless even. This guide will walk you through everything you need to know about these generative tools and introduce you to the best options available, many of which are free and online! But first, let’s get clear on what AI generative fil...

In a game-changing move, OpenAI has given ChatGPT a major upgrade, making it more creative and engaging than ever. The latest tweaks to the GPT-4o model have positioned it ahead of competitors like Google’s Gemini. But what does this mean for everyday users and businesses that rely on AI tools? Let’s break it down. What Makes This Update Different? The most exciting news is that ChatGPT’s creative writing abilities have leveled up significantly. OpenAI has described the new iteration as […] The ...

The digital search landscape has been ruled by Google for decades, but challengers like OpenAI’s ChatGPT are starting to carve out a niche. While Google remains the undisputed champion of search engines, ChatGPT’s innovative approach to search has sparked discussions about whether it could become a serious contender. Let’s dig deeper into this fascinating topic, explore the data, and examine whether ChatGPT could truly disrupt the search engine status quo. How Does ChatGPT Stack Up in Search Mar...

Can AI Finally Transform Drug Discovery? The promise of artificial intelligence in healthcare has been tantalizing but elusive. Many hoped AI would revolutionize drug discovery, yet progress has been slow. Now, Boulder, Colorado-based Enveda Therapeutics Inc. is making waves. This innovative startup, which uses AI to uncover groundbreaking drug candidates, just secured a whopping $130 million in fresh funding to fuel its mission. Let’s dive into how this funding, led by major investors like Kinn...

まいどです。 本日の生成AIニュース。 続きをみる

In the fast-moving world of artificial intelligence (AI), Apple has decided it’s time to step up its game. According to a report from Bloomberg, the tech giant is working on a new, more conversational version of its voice assistant, Siri. The upgrade will be powered by large language models (LLMs), a leap designed to keep Apple competitive as its rivals, like Google and OpenAI, continue to roll out groundbreaking AI-powered features. This development marks a significant shift for Siri, which, […...

はじめに 続きをみる

こんにちは、たまき（AIに語りかける者）です。 現在、llmを使って小説を作る試行錯誤を繰り返しています。 続きをみる

11/22（金）の医療ヘルスケアの国内海外のニュース一覧と一言考察。 続きをみる

ミーゼスの『Human Action』 ミーゼスは『Human Action』の中で、実証データを使って市場を予測しようとする幻想的な試みについて、これ以上ない明快な説明をしています。 続きをみる

はじめに https://www.anthropic.com/research/statistical-approach-to-model-evals こちらの記事で発表された論文についてClaude 3.5 sonnet を利用して内容を日本語でわかりやすく解説してもらいました。 英語の論文を読むのは英語が得意でない場合とても時間がかかります。 ですので簡単に生成AIを使って日本語にまとめてもらうことで効率化できないかと考えています。 実際に生成AIによって簡潔にまとめられた内容はこちらの記事に記載しています。 https://zenn.dev/shirochan/article...

以下のように、チャットで会話を始めるときの初回フレーズとは別に、「ガイド付き対話」と呼ばれる「サジェストボタン」を設置するために設定をしていたら、 あれ、【質問分類器】機能と何が違うんだっけ？と思ったのでまとめます。 続きをみる

はじめに ChatGPTやClaudeのような最新のAIモデルの性能を比較するとき、「どちらが本当に優れているのか」を正確に判断するのは意外と難しい課題です。例えば、数学の問題を解くテストで、あるAIモデルが90点、別のモデルが85点を取ったとしても、この差は本当に意味のある差なのでしょうか？ 本記事では、AIモデルの評価をより正確に行うための新しいアプローチを、身近な例を使って分かりやすく解説します。 なぜ統計的なアプローチが必要なのか？ 🎯 単純な点数比較の罠 例えば、こんな状況を想像してみてください： モデルA：数学テストで90点 モデルB：数学テストで85点 一...

今回も社内で話題になった生成AIに関するニュースをご紹介します。 続きをみる

今回も社内で話題になった生成AIに関するニュースをご紹介します。 続きをみる

Weights & Biases のNoteをフォローしてください 続きをみる

はじめに 初めまして、データアナリティクスラボ株式会社のデータソリューション事業部に所属する渡邉です。普段は金融分野のクライアント先で、AIを活用したサービス開発業務やデータ分析業務に従事しています。 自然言語を処理できる大規模言語モデル (LLM)は、今日のITの現場で欠かすことのできないトピックとなっています。LLMは事前学習という行程でウェブ上の様々なテキストデータを大量に学習し、英語などの言語の「基本的な文法」を習得しています。そのLLMに対してファインチューニングという学習を行うことにより、文書要約・文書分類・翻訳・推論などの自然言語関連タスクの精度を向上させることができま...

noteに載せるような話ではありませんが、ChatGPTは難しい技術的な話もできます。 続きをみる

初めまして。そうまめこと得丸創生と申します。 1年ほど前からTypescript / ReactのWebアプリ開発にどハマりして、現在は「TutoriaLLM」というビジュアルプログラミングとAIによる対話、そして、リアルタイムのコード実行の機能などを組み込んだWebアプリケーションを作っています。 https://tutoriallm.com 「TutoriaLLM」は、今年の頭から開発していて、初めてまともに作ったアプリではあるのですが、嬉しいことに未踏ジュニア2024に採択していただいたり、アプリ甲子園2024のAI開発部門で優勝したりしています。 ただ、色々外部のコンテストとかに...

続きをみる

# chatGPTの振る舞い、性能についてリアルタイムで情報発信を行っています。 続きをみる

Do you know the best part about using AI? You don’t always have to pay a premium for AI-powered tools. There are plenty of free AI apps that offer powerful features to help you streamline your work, boost creativity, and accomplish tasks efficiently. In this article, we’ll explore the best free AI apps available today. Whether you’re looking to automate tasks, improve your writing, or even create professional-quality videos, there’s a free AI tool for almost every need. What Are […] The post 20 ...

2024年10月27日~11月2日のLLM関連のニュースとして有名なもの、個人的に刺さったもの9点を以下にまとめる。 続きをみる

まいどです。 本日の生成AIニュース。 続きをみる

Google has taken a major leap forward in personalized AI technology with its Gemini chatbot. The latest update allows Gemini to “remember” key details about its users, tailoring responses to their unique preferences and interests. Here’s what you need to know about this exciting development. What Is Google Gemini’s New Memory Feature? Imagine chatting with an AI that feels like it truly knows you, not in a creepy way but like a thoughtful friend who remembers your favorite coffee order […] The p...

The competition in the AI world is heating up, and this week, the spotlight is on DeepSeek, a Chinese AI research company that just unveiled DeepSeek-R1, a reasoning AI model designed to rival OpenAI’s o1. Promising to redefine the boundaries of reasoning capabilities in AI, this release marks a pivotal moment in the global AI race. What Is DeepSeek-R1 and Why Does It Matter? Unlike traditional AI models, which often rely on brute-force computations and statistical patterns, reasoning models lik...

2024年11月21日時点で、私がChatGPTやその他LLMと対話するときに使っているカスタムインストラクションを紹介します。 個人的な話をすることも多いので、自分の具体的なプロフィールと指示を書いています。ChatGPTのWeb UIだと、それぞれ設定できるところがある。 続きをみる

A recent development in the ongoing legal battle between OpenAI and major news outlets, including The New York Times and Daily News, has raised eyebrows in the tech and legal communities. Lawyers representing these publishers claim that OpenAI’s engineers accidentally deleted crucial data that could have supported their case in a lawsuit accusing the AI company of scraping copyrighted content to train its models without permission. This incident highlights the tension between emerging AI technol...

Language barriers have long been a challenge in our interconnected world. These barriers exist like an invisible wall of steel between different language speakers. But thanks to AI language translation tools, you can communicate smoother and faster with anyone from anywhere. Whether you’re a business professional, a student, or a traveler, these tools help you navigate linguistic differences effortlessly. This article explores the benefits of AI translation tools, highlights the best AI language...

転換点を迎える世界のAI活用と 日本企業への示唆 世界のAI市場が大きな転換点を迎えています。IDCの最新調査によれば、生成AIの導入率は2023年から2024年にかけて55%から75%へと急増し、その投資効果は平均で3.7倍に達しています。さらに注目すべきは、先進的な企業では10.3倍という驚異的な投資効果を実現していることです。 続きをみる

difyとは difyのメインサイトはこちらで。 なんかAIアプリがRAGでフロー形式でなんやからのツールっぽいです。 （まだ触って日が浅い） ローカルで動かせるということなので、動かしてみました。 外に情報は出したくないけどAI使ったツールは動かしたい、とかいう欲求があればチャレンジしてみてください。 作成したシステム関連の環境 項目 内容 CPU i5第8世代 RAM 64G OS Windows11 GPU (#0) RTX3060 12G GPU (#1) RTX3050 6G RTX3050はロープロのGPUです。 i5第6世代のマシ...

初めまして、Givery AI Lab所属の楊です。 今回は、Microsoftがこの間に公開した「TinyTroupe」ライブラリをご紹介します。このライブラリは、複数のエージェントが人間のように行動したり、互いに話しをしたりして、インタラクションができる環境を構築するために使用されます。人間社会を模擬することができ、面白いと思いますので今回使ってみました！ Persona Simulation 「TinyTroupe」に入る前に、このプロジェクトのモチベーションである「ペルソナシミュレーション」というアイデアに関して簡単にお話ししたいと思います。 一言で言うと、ペルソナシミュレー...

Introduction: Continue reading on Medium »

LangChainとは？ LangChainは、生成AI（大規模言語モデル：LLM）を活用したアプリケーションを簡単に構築するためのPythonおよびJavaScript向けのオープンソースフレームワークです。 従来の生成AIアプリケーションの開発には、モデルへの指示文（プロンプト）の設計、データベースとの連携、複雑なワークフローの実装など、多くの専門的なスキルが必要でした。しかし、LangChainを使えば、これらのプロセスを効率的に構築できるようになります。 続きをみる

Platinum Data Blog編集部・編集長の木原です。 ブレインパッドは年間300回以上の勉強会が自主的に開催されており、学習意欲の高い人材が集まっています。そんなブレインパッドには、入社前に学業や研究活動に力を入れていた社員が多く在籍しており、今回の記事を皮切りに「指導教員×社員シリーズ」として、大学や大学院などでの学びが、今の業務にどう活きているのかを探っていきたいと思います。 今回はシリーズ第1回として、工学院大学の三木先生と、その指導を受けた当社データサイエンティスト沼瀬さんにお話を伺いました。お話しいただく二人のプロフィール三木 良雄先生 工学院大学 情報学部長 情報科学科教…

1. はじめに RAGを使ったチャットボットを作成しているのですが、「回答長いから短くして」と要望を頂いたので出力トークン数を制御しようとしています。そこで、出力トークン数によって回答の内容に差がでるのかを検証します。気になっているのは、出力トークン数を小さくすると、①回答が途中で切られるのか、②いい感じに要約してくれるのか、のどっちになるのかですね。最初はシステムプロンプトで制限していたのですが、たまに無視して長く回答がきてしまいます。 2. 調査 トークン数の調査もかねているので英語で質問します。 OpenAI APIのバージョンは1.28.0です。 messages = [...

Discover how hundreds of employees at Qualcomm use Writer to do their best work across marketing, legal, analytics, and more. The post How Qualcomm increases employee productivity and satisfaction with Writer appeared first on Writer.

2024年10月25日(金)～27日(日)にインドネシアで開催された PyCon APAC 2024 にバックエンドエンジニアの 松土 慎太郎、陶山 嶺、小門 照太の3名が登壇しました。 tech.revcomm.co.jp 今回はイベントの振り返りとして登壇資料と登壇者の感想を紹介します。 登壇振り返り Empowering your real life with Raspberry Pi 概要: 音声認識及び音声合成を活用して、その日のスケジュールを教えてくれる音声ボットをRaspberry Piによって作ります。初学者の方を対象に、ハンズオン形式でRaspberry Piのパワーを日常生…

A deep dive into how AI memory systems have evolved from simple storage to sophisticated dynamic architectures that power modern AI agents. Continue reading on Medium »

以下の記事が面白かったので、簡単にまとめました。 ・Agent Protocol: Interoperability for LLM agents 続きをみる

Discover how Writer CTO Waseem AlShikh empowers people, innovates with technology, and challenges industry norms. The post Defying AI industry norms and putting people first with Writer CTO and co-founder Waseem AlShikh appeared first on Writer.

As AI takes on more coding tasks, the need for understanding and control remains crucial. Explore how to harness tools like Cline, Replit… Continue reading on Medium »

Hello Everyone, Welcome to the Agent AI Tutorial Series — Part 1! 🚀 Continue reading on Medium »

! 本記事の内容は筆者の個人的見解を多分に含みます。ご意見、ご指摘大歓迎です。 LLMOps はなぜ必要か というより、最新のモデルや手法を追い続けることに少々疲れたので、アプリケーション開発の観点からもう少し長期的な目線で LLM アプリケーション開発を整理したいと思って LLMOps に入門してみました。 LLM アプリケーション特有の問題 LLM は非常に強力なツールなため、プロトタイプをパパッと作ってみてもそれっぽいシステムを作ることができます。プロトタイプとしては十分かもしれませんが、継続的改善を前提とした本番環境のシステムでは不十分です。 主な理由として、LLM の...

はじめに RAGによるトレーニングレスなLLMアプリを作成してきましたが、 Fine-Tuningをやったことがなかったため、まずはトライしたので結果を残します。 Azure OpenAI のGPT4oをFine-Tuningしてみましょう。 また、Azure AI Studioが Azure AI Foundry に名称変更し、ハブやプロジェクトを作成する思想になりました。それらを作成してFine-Tuningします。 RAGとFine-Tuningの使い分け わたしの今の理解では、RAGとFine-Tuningの使い分けはこのような認識です。 RAG RAGは、事前にトレ...

はじめに どんな人向けの記事？ ローカル LLM に興味のある方 Cline に興味のある方 Qwen2.5-Coder-32B の性能に興味のある方 LLM を用いたアプリ開発に興味のある方 本アプリの開発環境 1. Ubuntu 24.04.1 LTS (Core i5-8400 + メインメモリ 16GB) 2. Mac Studio (M2 Ultra 128GB) # ollama server 概要 前回の記事に引き続き、Qwen2.5-Coder-32B-Instruct を用いて、アプリ開発がどの程度出来るかを検証していきたいと思います。 https:...

はじめに 株式会社 Elith で Computer Vision Reseacher をしている下村です。 今年の9月24日から9月27日にカナダ・エドモントンで開催された高度道路交通システム分野の主要国際会議であるIEEE ITSC 2024 に参加し、本田技術研究所との共同研究の成果である「How to extend the dataset to account for traffic risk considering the surrounding environment」を発表しました。本記事では、その発表内容の解説と今後の研究展望について述べます。 研究概要 本研究で...

「生成AIはこれからの経営に欠かせない」という主張は多く耳にしますが、実際に生成AIの導入と浸透、そこからP/Lにヒットするレベルの成果を上げられている日本企業は多くありません。 実際にPwC Japanグループが公開した「生成AIに関する実態調査2024 春 米国との比較」という調査レポートを見ると、米国企業は生成AIについて「期待を大きく上回っている」と回答した割合が日本企業に比べて非常に高い一方で、日本企業は米国に比べて、生成AIに対して「期待以下だった」と回答している割合が高くなっています。 続きをみる

UML Document Generator ReactとVueに対応したドキュメント自動生成ライブラリを作成しました！npmでインストール可能です。 設計書難民の方にぜひ使っていただきたいです！！！ https://github.com/champaya/uml-document-generator/tree/main https://www.npmjs.com/package/uml-document-generator 🚀 このライブラリを生み出した理由 皆さんは、コードが設計書なReactやVueプロジェクトで、コードの構造を理解するのに苦労したことはありませんか？私も同...

はじめに 日本時間2024年11月19日23時からサティア・ナデラCEOによるKeynoteから始まったMicrosoft Ignite 2024@シカゴでは、Azure AIサービスに関する多くの重要なアップデートが発表されました。本記事では、発表内容を詳細に整理し、注目すべきポイントを深掘りしてお届けします。 https://ignite.microsoft.com/en-US/home Microsoft Ignite 2024のほぼすべての発表内容を包括的にまとめた「Book of News」も公開されています。本記事と併せてご覧いただくことで、イベント全体の全貌をより深く理...

LangGraph is a multi-agent framework. This means not only interacting with other LangGraph agents, but all other types of agents as well, regardless of how they are built. Today we are taking a few steps to build towards this vision. We are announcing: Agent Protocol: a common interface for agent

LangSmith's homepage is now organized into Observability, Evaluation, and Prompt Engineering. Learn why we organized the homepage like this. Plus, see our latest Resource Tags updates.

こんばんは！前回の記事から、「音声対話型AIチャットボット」の開発を始めています。経過は別の記事で投稿したいと思っていますが、今回は個人的に作成して利用しているアプリのアイデアを”素人でも作れる”をテーマにご紹介したいと思います。 この記事でご紹介するアプリは比較的簡単に作成できるので、Chat GPTなどを利用しながらいきなり開発を進めてみるのはいかがでしょうか。 最初の壁と言われる「環境構築」もこの記事で紹介しております。比較的簡単に構築できるので、ぜひチャレンジを！ 続きをみる

The post Partnering with Rox: Every Seller Needs an Agent Swarm appeared first on Sequoia Capital.

As we advance into the era of artificial intelligence, autonomous agents are revolutionizing industries, making an impact across domains… Continue reading on Medium »

Enhancing LLMs to provide superior answers involves more than just remembering details. It includes breaking big tasks into smaller steps… Continue reading on Medium »

The Evolution of Reasoning in LLM Agents Continue reading on Medium »

こんにちは。Platinum Data Blog編集部・編集長の木原です。2024年9月27日（金）に、ブレインパッド「2025年度 新卒入社 内定式」を開催しました。今回はその様子をレポートいたします。内定式当日は、いくつかのプログラムに分かれて行われました。 内定式 出張版！タウンホールミーティング 先輩社員パネルディスカッション 懇親会 内定式 内定者の皆さんが徐々に会場へ集合し始めています。今回の内定式では過度に緊張せず、内定者同士でカジュアルに会話できるよう、レイアウトを半円状にしてみました。 （これまでに開催した懇親会で交流したことのある内定者の方もおり、久しぶりの再会で笑顔で話し…

1. はじめに 1.1. 目的 オープンソースのLLMアプリ開発プラットフォームであるDifyのDSLファイル(YAML)をLLMにより自動生成する方法について1手法を紹介します。 1.2. 読者対象と前提知識 DifyのDSLファイル(YAML)に興味がある方 LLMのワークフロー生成に興味がある方 2. DifyとDSLファイルの概要 2.1. Difyの概要 Difyは、処理の機能を持つブロックをつなげていき視覚的にプログラムを組み立てることができるオープンソースのLLMアプリ開発プラットフォームです。ノーコードでLLMアプリを開発できるのが特徴で、非エンジ...

はじめに ELYZA 研究開発チームの大葉 (@dai0NLP)です。 本記事では、研究開発チームの最近の取り組み内容である 「日本特有の知識に特化した大規模言語モデルの学習および評価」 について解説いたします。 ELYZAは、日本の生成AIの開発力強化を目的とした経済産業省主導のプログラムである Generative AI Accelerator Challenge (GENIAC) に採択され、H100複数基をはじめとする計算資源の利用や関係者間の連携促進等のご支援をいただきながら、2024年5月から8月までの約3ヶ月間に渡り日本語汎用基盤モデルの開発を行いました。具体的には、日...

こんにちは上野(@ueeeeniki)です。 みなさんの会社では、今年のDev DayでOpenAIが発表した蒸留機能であるModel Distillationをうまく活用できているでしょうか。 蒸留とは、大きいモデルの出力を小さいモデルの学習に利用する方法です。これにより、大きいモデルに匹敵する精度を持つ小さいモデルを作ることができます。 この蒸留を行うModel Distillationという新機能を上手く使えばLLMアプリケーションのコストを劇的に削減することができます。 例えば、GPT-4oの出力を使って蒸留したGPT-4o-miniの料金は、下記の表では、fine-tuned ...

導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。普段はエンジニアとして、LLMを使用したチャットのサービスを提供しており、とりわけRAGシステムの改善は日々の課題になっています。 今回は、文章の尤度とドキュメントの配置位置、そして回答の精度の関係性を調査した論文について紹介します。 https://arxiv.org/pdf/2411.07773 サマリー RAGにおいて、正解ドキュメントの文章の配置と、回答精度の関連性は以前から注目されていました。この関係性の原因が文章の尤度(文字同士のつながりをLLMがどの程度自然と捉えているかの指標)にあるとしたのが、この論文の大...

この記事ではCopliotKitの公式チュートリアルを実施して、Next.jsでの導入から実際に動作させるところまでを実施します。 CopliotKitとは 自作のアプリケーションに、AI Copliot機能を組み込むことができるフレームワークです。 https://www.copilotkit.ai/ https://docs.copilotkit.ai/ 公式サイトのKey featureを翻訳すると以下のとおりです。 In-App AI Chatbot: ヘッドレスUIを含む、簡単に組み込めるAIチャットボットコンポーネント。 Copilot Readable State...

ChillStack セキュリティ部の一瀬です。 ChatGPTの登場以来、現在では大規模言語モデル（LLM）の有用性が広く認識され多くの企業が業務において活用するようになっています。 ですが、LLMの安全性を評価するノウハウはまだ少なく、利用・提供する際に課題を感じる方も多いと思います。 本稿では、そうしたLLMのリスクについて理解を深めて頂くことを目的として、LLMの安全性を検査するgarakというツールを紹介します。 garakのソースコードから検出手法の原理を学ぶことで、安全にLLMを開発・利用するための足掛かりとなれば幸いです。 LLMのリスクについて LLMには様々なリス...

Yasuyuki Matsushita rejoins Microsoft to lead the new Microsoft Research Asia - Tokyo lab. Learn more about his journey and his perspective on the Tokyo lab's role in evolution of AI. The post Introducing Yasuyuki Matsushita: Tackling societal challenges with AI at Microsoft Research Asia – Tokyo appeared first on Microsoft Research.

Learn how Dun & Bradstreet, a leading financial data analytics company, empowers global clients with business data — from credit risk to ownership structures — to make better decisions using their AI assistant, Chat D&B. See how LangChain and LangSmith have helped Dun & Bradstreet on their journey.

BiomedParse reimagines medical image analysis, integrating advanced AI to capture complex insights across imaging types—a step forward for diagnostics and precision medicine. The post BiomedParse: A foundation model for smarter, all-in-one biomedical image analysis appeared first on Microsoft Research.

こんばんは！本日から"音声形式"で対話が可能なAIチャットボットを個人的な短期プロジェクトとして作成してみたいと思う。 というのも、自己紹介やプロフィールにも記載しているのだが、私は現職のスタートアップで、開発事業の営業をしている。簡単に言うと「受託開発の営業」なのだが、このnoteのコンセプトの通り”開発関連の知識がほぼゼロに等しい状態”で任命された。そんな自分は日々、この関連知識を学びながら営業活動をしているのだが、受託開発の営業はクライアントの数だけニーズがあり、商談プロセスが多岐にわたるため、知識だけあっても仕方ない。クライアントの”潜在的なニーズ”を上手く掘り起こしながら、比較的、高単価で最適なプロダクトを提案する必要なため、「営業スキル」も一定必要になる。 普段は様々な手法で営業スキルを高めるために活動しているが、特に“ロープレ”を重要視している。空き時間で上司や同僚に付き合ってもらって実施しているが、なんせ皆、多忙なため、中々時間を作ってもらうのも申し訳ないし、何度もお願いをするわけにはいかない・・・。 そこで私は思った。「営業ロープレをAIとできるようにすれば良いのでは...