Tensorflow 학습 결과 분석 방법

주요 콘텐츠로 건너뛰기

이 브라우저는 더 이상 지원되지 않습니다.

최신 기능, 보안 업데이트, 기술 지원을 이용하려면 Microsoft Edge로 업그레이드하세요.

자습서: ML.NET에서 미리 학습된 TensorFlow 모델을 사용하여 영화 리뷰의 감정 분석

• 아티클
• 10/05/2022
• 읽는 데 17분 걸림

이 문서의 내용

이 자습서에서는 미리 학습된 TensorFlow 모델을 사용하여 웹 사이트 댓글의 감정을 분류하는 방법을 보여 줍니다. 이진 감정 분류자는 Visual Studio를 사용하여 개발된 C# 콘솔 애플리케이션입니다.

이 자습서에서 사용되는 TensorFlow 모델은 IMDB 데이터베이스의 영화 리뷰를 사용하여 학습되었습니다. 애플리케이션 개발이 완료되면 영화 리뷰 텍스트를 제공할 수 있으며, 애플리케이션이 리뷰가 긍정적 또는 부정적 감정인지 여부를 알려 줍니다.

이 자습서에서는 다음과 같은 작업을 수행하는 방법을 살펴봅니다.

• 미리 학습된 TensorFlow 모델 로드
• 웹 사이트 댓글 텍스트를 모델에 적합한 기능으로 변환
• 모델로 예측 수행

dotnet/samples 리포지토리에서 이 자습서의 소스 코드를 찾을 수 있습니다.

사전 요구 사항

• “.NET 데스크톱 개발” 워크로드가 설치된 Visual Studio 2022.

설정

애플리케이션 만들기

1. "TextClassificationTF"라는 C# 콘솔 애플리케이션을 만듭니다. 다음 단추를 클릭합니다.

2. 사용할 프레임워크로 .NET 6을 선택합니다. 만들기 단추를 클릭합니다.

3. 프로젝트에 이름이 Data인 디렉터리를 만들어 데이터 세트 파일을 저장합니다.

4. Microsoft.ML NuGet 패키지를 설치합니다.

   참고

   이 샘플에서는 별도로 지정하지 않은 한 언급된 NuGet 패키지의 최신 안정화 버전을 사용합니다.

   솔루션 탐색기에서 프로젝트를 마우스 오른쪽 단추로 클릭하고 NuGet 패키지 관리를 선택합니다. 패키지 소스로 "nuget.org"를 선택하고 찾아보기 탭을 선택합니다. Microsoft.ML을 검색하고 원하는 패키지를 선택한 다음, 설치 단추를 선택합니다. 선택한 패키지의 사용 조건에 동의하여 설치를 진행합니다. Microsoft.ML.TensorFlow, Microsoft.ML.SampleUtils 및 SciSharp.TensorFlow.Redist에 이러한 단계를 반복합니다.

TensorFlow 모델을 프로젝트에 추가합니다.

1. sentiment_model zip 파일을 다운로드하고 압축을 해제합니다

   zip 파일에는 다음 항목이 포함되어 있습니다.

   • saved_model.pb: TensorFlow 모델 자체입니다. 이 모델은 IMDB 리뷰 문자열의 텍스트를 나타내는 기능의 고정 길이(크기 600) 정수 배열을 사용하고, 합계가 1인 두 확률, 즉 입력 리뷰가 긍정적 감정일 확률과 입력 리뷰가 부정적 감정일 확률을 출력합니다.
   • imdb_word_index.csv: 개별 단어에서 정수 값으로의 매핑입니다. 이 매핑은 TensorFlow 모델에 대한 입력 기능을 생성하는 데 사용됩니다.

2. 가장 안쪽의 sentiment_model 디렉터리의 내용을 TextClassificationTF 프로젝트 sentiment_model 디렉터리에 복사합니다. 이 디렉터리에는 다음 이미지와 같이 이 자습서에 필요한 모델 및 추가 지원 파일이 포함되어 있습니다.

   

3. 솔루션 탐색기에서 sentiment_model 디렉터리 및 하위 디렉터리의 각 파일을 마우스 오른쪽 단추로 클릭하고 속성을 선택합니다. 고급 아래에서 출력 디렉터리에 복사 값을 변경된 내용만 복사로 변경합니다.

Using 문 및 전역 변수 추가

1. Program.cs 파일 맨 위에 다음 추가 using 문을 추가합니다.

   using Microsoft.ML;
   using Microsoft.ML.Data;
   using Microsoft.ML.Transforms;
   

2. using 문 바로 다음에 저장된 모델 파일 경로를 저장하는 전역 변수를 만듭니다.

   string _modelPath = Path.Combine(Environment.CurrentDirectory, "sentiment_model");
   

   • _modelPath는 학습된 모델의 파일 경로입니다.

데이터 모델링

영화 리뷰는 자유 형식 텍스트입니다. 이 애플리케이션은 여러 불연속 단계에서 모델에 필요한 입력 형식으로 텍스트를 변환합니다.

우선 텍스트를 개별 단어로 분할하고 제공된 매핑 파일을 사용하여 각 단어를 정수 인코딩으로 매핑합니다. 이 변환의 결과는 문장의 단어 수에 해당하는 길이의 가변 길이 정수 배열입니다.

그러면 가변 길이 기능 배열의 크기가 고정 길이 600으로 조정됩니다. 이것이 TensorFlow 모델에 필요한 길이입니다.

1. Program.cs 파일 맨 아래에 입력 데이터에 대한 클래스를 만듭니다.

   /// <summary>
   /// Class to hold original sentiment data.
   /// </summary>
   public class MovieReview
   {
       public string ReviewText { get; set; }
   }
   

   입력 데이터 클래스 MovieReview에는 사용자 댓글(ReviewText)의 string이 있습니다.

2. MovieReview 클래스 다음에 가변 길이 기능에 대한 클래스를 만듭니다.

   /// <summary>
   /// Class to hold the variable length feature vector. Used to define the
   /// column names used as input to the custom mapping action.
   /// </summary>
   public class VariableLength
   {
       /// <summary>
       /// This is a variable length vector designated by VectorType attribute.
       /// Variable length vectors are produced by applying operations such as 'TokenizeWords' on strings
       /// resulting in vectors of tokens of variable lengths.
       /// </summary>
       [VectorType]
       public int[] VariableLengthFeatures { get; set; }
   }
   

   VariableLengthFeatures 속성에는 이를 벡터로 지정하기 위한 VectorType 특성이 있습니다. 모든 벡터 요소는 같은 유형이어야 합니다. 열 수가 많은 데이터 세트에서 여러 열을 단일 벡터로 로드하면 데이터 변환을 적용할 때 데이터 전달 횟수가 줄어듭니다.

   이 클래스는 ResizeFeatures 작업에 사용됩니다. 해당 속성(이 경우에는 하나뿐)의 이름은 사용자 지정 매핑 동작에 대한 입력으로 사용할 수 있는 DataView의 열을 나타내는 데 사용됩니다.

3. VariableLength 클래스 다음에 고정 길이 기능에 대한 클래스를 만듭니다.

   /// <summary>
   /// Class to hold the fixed length feature vector. Used to define the
   /// column names used as output from the custom mapping action,
   /// </summary>
   public class FixedLength
   {
       /// <summary>
       /// This is a fixed length vector designated by VectorType attribute.
       /// </summary>
       [VectorType(Config.FeatureLength)]
       public int[] Features { get; set; }
   }
   

   이 클래스는 ResizeFeatures 작업에 사용됩니다. 해당 속성(이 경우에는 하나뿐)의 이름은 사용자 지정 매핑 동작에 대한 출력으로 사용할 수 있는 DataView의 열을 나타내는 데 사용됩니다.

   Features 속성의 이름은 TensorFlow 모델에 의해 결정됩니다. 이 속성 이름은 변경할 수 없습니다.

4. FixedLength 클래스 다음에 예측에 대한 클래스를 만듭니다.

   /// <summary>
   /// Class to contain the output values from the transformation.
   /// </summary>
   public class MovieReviewSentimentPrediction
   {
       [VectorType(2)]
       public float[] Prediction { get; set; }
   }
   

   MovieReviewSentimentPrediction은 모델 학습 후 사용되는 예측 클래스입니다. MovieReviewSentimentPrediction에는 단일 float 배열(Prediction)과 VectorType 특성이 있습니다.

5. 기능 벡터 길이와 같은 구성 값을 저장할 다른 클래스를 만듭니다.

   static class Config
   {
       public const int FeatureLength = 600;
   }
   

MLContext, 조회 사전 및 기능 크기 조정 작업 만들기

MLContext 클래스는 모든 ML.NET 작업의 시작 지점입니다. mlContext를 초기화하면 모델 생성 워크플로 개체 간에 공유할 수 있는 새 ML.NET 환경이 생성됩니다. 개념적으로 Entity Framework의 DBContext와 유사합니다.

1. Console.WriteLine("Hello World!") 줄을 다음 코드로 바꾸어 mlContext 변수를 선언하고 초기화합니다.

   MLContext mlContext = new MLContext();
   

2. 다음 표에 표시된 것처럼 LoadFromTextFile 메서드를 사용하여 파일에서 매핑 데이터를 로드하여 단어를 정수로 인코딩하는 사전을 만듭니다.

   단어	Index
   kids	362
   want	181
   wrong	355
   effects	302
   feeling	547

   아래 코드를 추가하여 조회 맵을 만듭니다.

   var lookupMap = mlContext.Data.LoadFromTextFile(Path.Combine(_modelPath, "imdb_word_index.csv"),
       columns: new[]
           {
               new TextLoader.Column("Words", DataKind.String, 0),
               new TextLoader.Column("Ids", DataKind.Int32, 1),
           },
       separatorChar: ','
       );
   

3. 다음 코드 줄을 사용하여 가변 길이 단어 정수 배열의 크기를 고정 크기 정수 배열로 조정하는 Action을 추가합니다.

   Action<VariableLength, FixedLength> ResizeFeaturesAction = (s, f) =>
   {
       var features = s.VariableLengthFeatures;
       Array.Resize(ref features, Config.FeatureLength);
       f.Features = features;
   };
   

미리 학습된 TensorFlow 모델 로드

1. 코드를 추가하여 TensorFlow 모델을 로드합니다.

   TensorFlowModel tensorFlowModel = mlContext.Model.LoadTensorFlowModel(_modelPath);
   

   모델이 로드되면 해당 입력 및 출력 스키마를 추출할 수 있습니다. 스키마는 관심 및 학습 전용으로 표시됩니다. 최종 애플리케이션이 작동하기 위해 이 코드가 필요하지는 않습니다.

   DataViewSchema schema = tensorFlowModel.GetModelSchema();
   Console.WriteLine(" =============== TensorFlow Model Schema =============== ");
   var featuresType = (VectorDataViewType)schema["Features"].Type;
   Console.WriteLine($"Name: Features, Type: {featuresType.ItemType.RawType}, Size: ({featuresType.Dimensions[0]})");
   var predictionType = (VectorDataViewType)schema["Prediction/Softmax"].Type;
   Console.WriteLine($"Name: Prediction/Softmax, Type: {predictionType.ItemType.RawType}, Size: ({predictionType.Dimensions[0]})");
   
   

   입력 스키마는 정수 인코딩 단어의 고정 길이 배열입니다. 출력 스키마는 리뷰의 감정이 부정적인지 또는 긍정적인지를 나타내는 확률의 부동 소수점 배열입니다. 긍정적 감정의 확률과 부정적 감정의 확률은 보수이므로 이들 값의 합은 1입니다.

ML.NET 파이프라인 만들기

1. 파이프라인을 만들고 다음 코드 줄과 같이 TokenizeIntoWords 변환을 사용하여 텍스트를 단어로 분할해 입력 텍스트를 단어로 나눕니다.

   IEstimator<ITransformer> pipeline =
       // Split the text into individual words
       mlContext.Transforms.Text.TokenizeIntoWords("TokenizedWords", "ReviewText")
   

   TokenizeIntoWords 변환은 공백을 사용하여 텍스트/문자열을 단어로 구문 분석합니다. 새 열을 만들고 각 입력 문자열을 사용자 정의 구분 기호를 기반으로 하는 부분 문자열의 벡터로 분할합니다.

2. 위에서 선언한 조회 테이블을 사용하여 단어를 해당 정수 인코딩으로 매핑합니다.

   // Map each word to an integer value. The array of integer makes up the input features.
   .Append(mlContext.Transforms.Conversion.MapValue("VariableLengthFeatures", lookupMap,
       lookupMap.Schema["Words"], lookupMap.Schema["Ids"], "TokenizedWords"))
   

3. 가변 길이 정수 인코딩의 크기를 모델에 필요한 고정 길이에 맞게 조정합니다.

   // Resize variable length vector to fixed length vector.
   .Append(mlContext.Transforms.CustomMapping(ResizeFeaturesAction, "Resize"))
   

4. 로드된 TensorFlow 모델을 사용하여 입력을 분류합니다.

   // Passes the data to TensorFlow for scoring
   .Append(tensorFlowModel.ScoreTensorFlowModel("Prediction/Softmax", "Features"))
   

   TensorFlow 모델 출력은 Prediction/Softmax입니다. Prediction/Softmax은 TensorFlow 모델에 의해 결정된 이름입니다. 이 이름은 변경할 수 없습니다.

5. 출력 예측에 대한 새 열을 만듭니다.

   // Retrieves the 'Prediction' from TensorFlow and copies to a column
   .Append(mlContext.Transforms.CopyColumns("Prediction", "Prediction/Softmax"));
   

   Prediction/Softmax 열을 C# 클래스에서 속성으로 사용할 수 있는 이름을 가진 열로 복사해야 합니다. Prediction. C# 속성 이름에 / 문자는 허용되지 않습니다.

파이프라인에서 ML.NET 모델 만들기

1. 코드를 추가하여 파이프라인에서 모델을 만듭니다.

   // Create an executable model from the estimator pipeline
   IDataView dataView = mlContext.Data.LoadFromEnumerable(new List<MovieReview>());
   ITransformer model = pipeline.Fit(dataView);
   

   ML.NET 모델은 Fit 메서드를 호출하여 파이프라인의 추정기 체인에서 만들어집니다. 이 경우에는 TensorFlow 모델이 이미 학습되었으므로 모델을 만들기 위해 데이터 맞춤을 수행하지 않습니다. Fit 메서드의 요구 사항을 충족하기 위해 빈 데이터 보기 개체를 제공합니다.

모델로 예측 수행

1. MovieReview 클래스 위에 PredictSentiment 메서드를 추가합니다.

   void PredictSentiment(MLContext mlContext, ITransformer model)
   {
   
   }
   

2. PredictSentiment() 메서드의 첫째 줄과 같이 다음 코드를 추가하여 PredictionEngine을 만듭니다.

   var engine = mlContext.Model.CreatePredictionEngine<MovieReview, MovieReviewSentimentPrediction>(model);
   

   PredictionEngine은 데이터의 단일 인스턴스에 대한 예측을 수행할 수 있는 편리한 API입니다. PredictionEngine는 스레드로부터 안전하지 않습니다. 단일 스레드 또는 프로토타입 환경에서 사용할 수 있습니다. 프로덕션 환경에서 성능 및 스레드 보안을 개선하려면 PredictionEnginePool 서비스를 사용합니다. 이 서비스는 애플리케이션 전체에서 사용할 PredictionEngine 개체의 ObjectPool을 만듭니다. ASP.NET Core Web API에서 PredictionEnginePool을 사용하는 방법에 대한 이 가이드를 참조하세요.

   참고

   PredictionEnginePool 서비스 확장은 현재 미리 보기 상태입니다.

3. MovieReview 인스턴스를 만들어 댓글을 추가하여 Predict() 메서드에서 학습된 모델의 예측을 테스트합니다.

   var review = new MovieReview()
   {
       ReviewText = "this film is really good"
   };
   

4. PredictSentiment() 메서드의 다음 코드 줄을 추가하여 테스트 댓글 데이터를 Prediction Engine에 전달합니다.

   var sentimentPrediction = engine.Predict(review);
   

5. Predict() 함수는 단일 데이터 행에 대한 예측을 수행합니다.

   속성	값	형식
   예측	[0.5459937, 0.454006255]	float[]

6. 다음 코드를 사용하여 감정 예측을 표시합니다.

   Console.WriteLine("Number of classes: {0}", sentimentPrediction.Prediction.Length);
   Console.WriteLine("Is sentiment/review positive? {0}", sentimentPrediction.Prediction[1] > 0.5 ? "Yes." : "No.");
   

7. Fit() 메서드를 호출한 후 PredictSentiment에 대한 호출을 추가합니다.

   PredictSentiment(mlContext, model);
   

결과

애플리케이션을 빌드하고 실행합니다.

다음과 같은 결과가 나타나야 합니다. 처리 중 메시지가 표시됩니다. 경고 또는 메시지 처리를 확인할 수 있습니다. 이해하기 쉽도록 이러한 메시지는 다음 결과에서 제거되었습니다.

Number of classes: 2
Is sentiment/review positive ? Yes

지금까지 이제 ML.NET에서 미리 학습된 TensorFlow 모델을 재사용하여 메시지 감정을 분류하고 예측하기 위한 기계 학습 모델을 성공적으로 빌드했습니다.

dotnet/samples 리포지토리에서 이 자습서의 소스 코드를 찾을 수 있습니다.

본 자습서에서는 다음 작업에 관한 방법을 학습했습니다.

• 미리 학습된 TensorFlow 모델 로드
• 웹 사이트 댓글 텍스트를 모델에 적합한 기능으로 변환
• 모델로 예측 수행