【オフライン環境で生成AI活用】生成AIの性能を最大限に引き出したAIチャット・RAGソフトウェア「AIコンシェルジュ for オフライン」リリース

「業務で生成AIを使いたいがパブリックな環境でインターネット通信されるのが不安」という企業様へ、生成AIの性能を最大限に引き出すAIソリューションを提供



AIプロダクト、AIコンサルティング・開発サービスを提供するNishika株式会社（東京都港区、代表取締役山下達朗・松田裕之、以下Nishika）は、オフライン環境で生成AIの性能を最大限に引き出したAIチャット・RAGソフトウェア「AIコンシェルジュ for オフライン」の提供を開始しました。

オフライン環境で社内情報を知るAIとコミュニケーション「AIコンシェルジュ for オフライン」
「業務で生成AIを使いたいがパブリックな環境でインターネット通信されるのが不安」というお客様向けに、オフラインで動作するAIチャット・RAGアプリケーション「AIコンシェルジュ for オフライン」を提供。

[画像1: https://prcdn.freetls.fastly.net/release_image/52152/43/52152-43-095c3b1753bd0b29b7786797ee9210e7-2841x1663.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
AIコンシェルジュ for オフラインの特徴


AIコンシェルジュ for オフラインの強み：LLMの性能を最大限に引き出す
3つの工夫を施すことで、オフラインという厳しい制限のある環境下で、最大限にLLMの性能を引き出すことに成功しています。
- 日本語チャット体験に最適なLLMを標準搭載（お客様サーバー環境に合わせたLLMを選定。GPU VRAM 8GBの環境でも十分な性能で動作）
- 日本語チャット体験に最適なベクトル検索モデルを標準搭載（一定の検索精度を担保した上で、検索精度重視・文書のベクトル化速度重視の2モデルを搭載）
- エクセルなどスパースな構造を持つ文書からも回答に十分な情報を引き出す前処理を実施（スパースな構造を放置すると、入力トークンを無駄に消費し関連文書が取得できない問題を解決）


[画像2: https://prcdn.freetls.fastly.net/release_image/52152/43/52152-43-6f3d96ed91431b7403e87d86672a6fa4-2933x1801.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
ベクトル検索モデルの最適化


[画像3: https://prcdn.freetls.fastly.net/release_image/52152/43/52152-43-af1a5c08698c7476c75bf93c08efbf4c-2585x1975.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
スパース文書に対応した前処理


お客様独自の生成AIを開発するサービス「クラフト生成AI」
さらに、自社データのあらゆるデータ資源を学習させ、お客様専用の生成AIを開発するオプションサービス「クラフト生成AI」も併せて提供。

弊社自身が自社プロダクト「SecureMemo」にてオフラインAI要約機能を開発している知見を生かし、生成AIのファインチューニング・インストラクションチューニングを行います。

[画像4: https://prcdn.freetls.fastly.net/release_image/52152/43/52152-43-40b2837309bf65c908c0ec121b9a42dd-720x540.png?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
クラフト生成AIの実例


「クラフト生成AI」にて構築した生成AIを「AIコンシェルジュ for オフライン」に搭載しての活用が可能です。

資料請求

Nishikaについて
Nishikaは「テクノロジーですべての人が誇りを持てる社会を」をビジョンに掲げ、遍くビジネスパーソンにとってテクノロジーが身近な存在となるべくAIプロダクト・サービスを提供しています。
- AI搭載プロダクト（SecureMemo, SecureMemoCloud, AIコンシェルジュ for オフライン, Nishika Image Finder）
- AIコンサルティング・開発（クラフト生成AI, Build-in生成AI）

SecureMemo/SecureMemoCloudの提供する、高精度なAI文字起こし・議事録作成や、AIコンシェルジュの提供する、セキュアな環境下で自社情報を知るAIと自在にコミュニケーションできる体験は、多くのビジネスパーソンが求めるもので、テクノロジーを身近な存在にするプロダクトであると考えています。
- URL: https://info.nishika.com/
- 所在地: 東京都港区芝浦3-7-8-202
- 代表者: 代表取締役CEO 山下達朗、代表取締役CTO 松田裕之
- 事業内容: AIプロダクト、AIコンサルティング・開発


PR TIMESプレスリリース詳細へ