Zum Experten ausbilden

<?xml version="1.0" encoding="utf-8" ?>
<ContentPage xmlns=
    "http://schemas.microsoft.com/dotnet/2021/maui"
    xmlns:x=
    "http://schemas.microsoft.com/winfx/2009/xaml"
    x:Class="AzureOpenAI_Example.MainPage"
    Title="Chatbot">

  <Grid Margin="20" RowSpacing="20">
    <Grid.RowDefinitions>
      <RowDefinition Height="Auto" />
      <RowDefinition Height="*" />
    </Grid.RowDefinitions>
    <VerticalStackLayout Grid.Row="0" Spacing="20">
      <Editor x:Name="edt1" HeightRequest="100"
        FontSize="Medium" />
      <FlexLayout Direction="Row" Wrap="Wrap"
          JustifyContent="Center">
        <Button x:Name="btnSend" Text="Absenden"
          Clicked="BtnSend_Clicked" Margin="4" />
      </FlexLayout>
    </VerticalStackLayout>
    <ScrollView Grid.Row="1" x:Name="scvMain"
        VerticalOptions="Fill">
      <VerticalStackLayout x:Name="vslMain"
        Spacing="20" />
    </ScrollView>
  </Grid>

</ContentPage>

using Azure;
using Azure.AI.OpenAI;

namespace AzureOpenAI_Example;

public partial class MainPage : ContentPage
{
  private static readonly string
    openAIServiceEndpoint = "(your endpoint)";
  private static readonly
    string openAIServiceKey = "(your key)";
  private static readonly
    string llmName = "text-davinci-003-01";
  private static OpenAIClient openAIClient;
  private static readonly
    List<Message> Messages = new();

  public MainPage()
  {
    InitializeComponent();
    openAIClient = new OpenAIClient(new Uri(
      openAIServiceEndpoint),
      new AzureKeyCredential(openAIServiceKey));
  }

  private async void BtnSend_Clicked(object sender,
      EventArgs e)
  {
    var message = new Message { Text = edt1.Text,
      Prompt = edt1.Text };
    Messages.Add(message);
    vslMain.Children.Add(new Label {Text =
      message.Text, HorizontalTextAlignment=
      TextAlignment.End, TextColor =
      Color.FromRgb(0, 255, 0),FontSize = 18 });

    var responseText = await Chat(message);
    vslMain.Children.Add(new Label { Text =
      responseText, HorizontalTextAlignment =
      TextAlignment.Start, TextColor =
      Color.FromRgb(51, 153, 255),
      FontSize = 18 });
  }

  private static async Task<string>
      Chat(Message message)
  {
    // Submit prompt
    string responseText =
      await Chat(message.Prompt);
    return responseText;
  }

  private static async Task<string>
      Chat(string prompt)
  {
    // Get chatbot response
    var completionsResponse = await openAIClient.
      GetCompletionsAsync(llmName, prompt);
    var responseText = completionsResponse.Value.
      Choices[0].Text.Trim('\n');
    return responseText;
  }
}

internal class Message
{
  // Text entered by user
  internal string Text { get; set; }

  // Summary of Text, consisting of relevant keywords
  internal string Summary { get; set; }

  // Prompt sent to the LLM
  internal string Prompt { get; set; }
}

...

using System.Text;

public partial class MainPage : ContentPage
{
  ...
  
  private static readonly int maxPreviousPrompts = 5;
  
  ...
  
  private static async Task<string>
      Chat(Message message)
  {
    // Get a summary for the previous prompt
    int previousIndex = Messages.Count - 2;

    if (previousIndex >= 0)
    {
      string summaryResponseText =
        await GetSummary(
        Messages[previousIndex].Text);
      Messages[previousIndex].Summary =
        summaryResponseText;
    }

    // Add summaries of previous prompts
    var promptBuilder = new StringBuilder();

    int firstIndex = Messages.Count -
      maxPreviousPrompts - 1;
    if (firstIndex < 0)
    {
      firstIndex = 0;
    }

    int lastIndex = Messages.Count - 2;

    for (int i = firstIndex; i <= lastIndex; i++)
    {
      promptBuilder.Append(Messages[i].Summary);
      promptBuilder.Append(';');
    }

    // Add actual message
    promptBuilder.Append($" Frage: " + message.Text
      + " Antwort: ");

    message.Prompt = promptBuilder.ToString();
    
    ...
  }

  ...
  
  private static async Task<string>
      GetSummary(string prompt)
  {
    // Create prompt for getting a summary of the
    // actual prompt
    var summaryPrompt = $"Extrahiere aus dem Text"
      + " nach dem Doppelpunkt die wichtigsten "
      + "Stichwörter und trenne sie mit Komma: "
      + "{prompt}";
    var summaryResponseText = await Chat(
      summaryPrompt);
    return summaryResponseText;
  }
}

// Add actual message
promptBuilder.Append($". Antworten müssen "
  + "ausschließlich auf den folgenden Fakten "
  + "basieren. Jeder Fakt ist nummeriert. Schließe "
  + "immer die Nummern in der Form [Nummer] in deine "
  + "Antwort ein. Wenn die Fakten die Frage nicht "
  + "beantworten, sag, dass du es nicht weißt. ");
promptBuilder.Append($" 1. Gras leuchtet in hellem "
  + "Blau.");
promptBuilder.Append($" 2. Meere sind große "
  + "Gewässer.");
promptBuilder.Append($" 3. Große Gewässer sind "
  + "gelb.");
promptBuilder.Append($" Frage: " + message.Text
  + " Antwort: ");

using System.Text;
using System.Xml;

namespace XMLFileSplitter
{
  internal class Program
  {
    static void Main(string[] args)
    {
      var path = "...(path to XML file)\\";
      var inputFilename = "(filename of XML file)";
      var textChunkLength = 1000;
      var textChunkShift = textChunkLength / 2;

      XmlDocument doc = new XmlDocument();
      doc.Load(path + inputFilename);

      var pages = ((XmlElement?)doc.
        GetElementsByTagName("mediawiki")[0])?.
        GetElementsByTagName("page");

      if (pages is null) return;

      foreach(XmlElement page in pages)
      {
        string title = page["title"]?.InnerText ??
          string.Empty;
        var filename = new StringBuilder();

        // Replace special chars because they
        // can't be handled by Azure blob store
        foreach (char c in title)
        {
          int ascii = (int)c;
          filename.Append((ascii == 45 || (ascii
            >= 48 && ascii <= 57) || ascii == 61
            || (ascii >= 65 && ascii <= 90) ||
            ascii == 95 || (ascii >= 97 && ascii
            <= 122)) ? c : '_');
        }

        string text = ((XmlElement?)page[
          "revision"]?.GetElementsByTagName(
          "text")[0])?.InnerText ?? string.Empty;
        int textChunkStartPosition = 0;

        while (textChunkStartPosition < text.Length) 
        {
          var textLength = (
            textChunkStartPosition > text.Length
            - textChunkLength) ? text.Length -
            textChunkStartPosition :
            textChunkLength;
          var textChunk = text.Substring(
            textChunkStartPosition, textLength);
          var fileText = $"{title}{Environment.
            NewLine}{textChunk}";
          File.WriteAllText(
            $"{path}{filename}_{"
            + $"textChunkStartPosition}",
            fileText);
          textChunkStartPosition +=
            textChunkShift;
        }
      }
    }
  }
}

...

using Azure.Search.Documents;
using Azure.Search.Documents.Indexes;
using Azure.Search.Documents.Indexes.Models;
using Azure.Search.Documents.Models;

public partial class MainPage : ContentPage
{
  ...

  private static List<SearchResult<TextChunk>>
    results;
  private static readonly int maxSearchResults = 5;
  private static readonly string
    searchServiceEndpoint = "(your endpoint)";
  private static readonly string searchServiceKey =
    "(your key)";
  private static readonly string searchIndexName =
    "azureblob-index";
  private static readonly Uri
    searchServiceEndpointUri =
    new(searchServiceEndpoint);
  private static readonly AzureKeyCredential
    credential = new(searchServiceKey);
  private static readonly SearchClient searchClient = 
    new(searchServiceEndpointUri, searchIndexName,
    credential);
  private static readonly QueryLanguage queryLanguage
    = QueryLanguage.DeDe;
  private static SearchOptions searchOptions;

  public MainPage()
  {
    ...
    searchOptions = new SearchOptions
    {
      Size = maxSearchResults,
      QueryLanguage = queryLanguage
    };
    searchOptions.Select.Add("content");
  }

  private static async Task<string>
      Chat(Message message)
  {
  ...

    // Search for document chunks using Cognitive
    // Search
    var response = searchClient.Search<TextChunk>(
      message.Text, searchOptions);
    results = response.Value.GetResults().ToList();

    // Add actual message
    promptBuilder.Append($". Antworten müssen aus"
      + "schließlich auf den folgenden Fakten "
      + "basieren. Jeder Fakt ist nummeriert. "
      + "Schließe immer die Nummern in der Form "
      + "[Nummer] in deine Antwort ein. Wenn die "
      + "Fakten die Frage nicht beantworten, sag, "
      + "dass du es nicht weißt. ");

    // Add document chunks as facts
    for (int i = 0; i < maxSearchResults; i++)
    {
      promptBuilder.Append($" [{i + 1}]
        {results[i].Document.content}.");
    }

    promptBuilder.Append($" Frage: " + message.Text
      + " Antwort: ");

    ...
  }
}

internal class TextChunk
{
  [SearchableField()]
  public string content { get; set; }
}