# MLOps 03: Feast Feature Store - An In-depth Overview Experimentation and Application in Tabular data

MLOps 03: Feast Feature Store - An In-depth Overview Experimentation and Application in Tabular data (opens new window)를 읽고 번역한 내용입니다.

# 왜 Feature Store가 필요한가

예시) 한 데이터 과학 팀이 고객 이탈을 예측하는 머신러닝 모델을 구축하고 있다고 가정합니다. 팀은 데이터를 신중하게 수집하고 정리해서 이제 피처 엔지니어링에 착수할 준비가 되었습니다. 하지만 아래와 같은 문제를 마주합니다.

데이터 사일로와 중복: 데이터 과학자들에게 필요한 피처가 여러 데이터베이스와 노트북에 흩어져 있습니다. 학습과 서빙에서 동일한 피처를 재현하다 보면 오류나 불일치가 생기기 쉽습니다.
시간 낭비: 모델 개발과 실험에 집중해야 할 소중한 시간이 데이터 정제에 소모됩니다.
버전 관리의 어려움: 다양한 피처 버전이 여기저기 떠돌아다니며 혼란을 일으키고, 결국 모델 결함으로 이어질 수 있습니다.

Feature Store는 이러한 문제를 해결하고 머신러닝 워크플로우를 간소화하도록 돕습니다.

# 왜 Feast를 Feature Store로 선택하는가?

여러 Feature Store가 존재하지만, Feast는 뛰어난 기능을 조합해 제공합니다. 기존 인프라를 활용하고 데이터 일관성을 보장하며 데이터 누수를 방지하는 데 중점을 두어, 머신러닝 워크플로우를 최적화하려는 조직에 강력한 선택지가 되고 있습니다.

Feast는 오픈 소스이고 확장성이 좋으며 커뮤니티 지원도 활발해, 피처 스토어 요구 사항을 충족하는 강력한 후보로 떠오르고 있습니다. Feast의 문서와 리소스를 살펴보며 팀의 필요에 맞는지 확인하고, 고성능 ML 모델을 구축하는 팀을 지원해 보세요.

Feast가 돋보이는 이유는 다음과 같습니다:

팀과 프로젝트 간 피처를 공유하여 중복 작업을 줄입니다.
프로젝트 간 데이터 일관성을 제공합니다.
피처 엔지니어링과 모델 개발을 분리합니다 (데이터 과학자들이 선호합니다).
실시간으로 피처에 접근할 수 있습니다.
ML 전문가들에게 친숙한 기존 도구들과의 통합을 지원합니다 (예: Airflow, Dagster, MLFlow, K8s).

# Feast를 사용하여 피처 저장 및 서빙하는 방법

Source: MLOps Tools Part 5: BigQuery + Memorystore vs. FEAST for Feature Store (opens new window)

# Entity, Datasource, 그리고 FeatureView를 사용하여 피처 저장하기

피처 정의하기:

Feast는 피처 정의에서 시작합니다. 이 단계에서 피처 이름, 데이터 유형, 연결된 엔터티 키(예: 사용자 ID, 제품 ID)를 지정합니다. 데이터베이스, 데이터 웨어하우스, 실시간 스트리밍 서비스와 같은 다양한 데이터 소스를 위해 피처를 정의할 수 있습니다.

from feast import Entity  
from feast.infra.offline_stores.contrib.spark_offline_store.spark_source import SparkSource  
from feast import FeatureView, Field  
  
# Entity  
user = Entity(  
    name="user",  
    join_keys=["user_id"],  
    description="Entity to represent user for loan default prediction",  
)  
  
# Datasource  
sparksource_user_loan = SparkSource(  
   path=os.path.join(get_feature_folder_path(), "loan_default_gen"),  
   file_format="parquet",
   timestamp_field="txn_datetime",
   name="user_loan",  
)  
  
# FeatureView  
user_info_fv = FeatureView(  
	name="user_info",
	entities=[user],  
	schema=[  
		Field(name="Age", dtype=Int64),  
		Field(name="Education", dtype=String),  
		Field(name="CreditScore", dtype=Int64),  
		Field(name="MonthsEmployed", dtype=Int64),  
	],
	source=sparksource_user_loan,  
	description="Calculate overall transaction behaviors of customer",  
)

피처 저장소 구축하기:

피처 저장소는 Feast의 설계도 역할을 합니다. 여기에는 피처 정의와 온라인 및 오프라인 저장을 위한 설정이 포함됩니다. Feast는 다양한 저장 옵션을 제공하여 필요에 따라 유연하게 선택할 수 있습니다.

Feast 배포마다 피처 레지스트리가 하나씩 있습니다. 원문 작성 당시에는 파일 기반 레지스트리를 주로 사용했으며(현재 버전은 SQL 기반 레지스트리 등도 기본 제공), 파일 기반 레지스트리의 백엔드는 다음과 같습니다.

Local: 개발 중 레지스트리를 저장하기 위한 로컬 백엔드
S3: AWS에서 레지스트리를 중앙 집중식으로 저장하기 위한 백엔드
GCS: GCP에서 레지스트리를 중앙 집중식으로 저장하기 위한 백엔드
[Alpha] Azure: Azure Blob 스토리지에서 레지스트리를 중앙 집중식으로 저장하기 위한 백엔드

# https://docs.feast.dev/getting-started/architecture-and-components/registry  
from feast import FeatureStore  
  
# Simple: for local development  
fs = FeatureStore("my_feature_repo/")

피처 생성하기 먼저 fs.apply로 엔터티, 데이터 소스, FeatureView 정의를 레지스트리에 등록합니다. 오프라인 저장소의 과거 피처 값은 학습 시 get_historical_features로 조회합니다.

list_entities = [user]  
list_datasources = [sparksource_user_loan]  
list_feature_views = [user_info_fv]  
  
fs.apply(  
  objects=[  
      *list_entities,  
      *list_datasources,  
      *list_feature_views,  
  ],  
)

실시간 추론을 위해 Feast는 낮은 지연 시간으로 접근할 수 있는 온라인 저장소를 활용합니다. “materialization” 프로세스는 지정한 시간 범위의 피처 값을 오프라인 저장소(데이터 소스)에서 읽어 최신 값을 온라인 저장소에 채우며, 이렇게 채워 두면 모델이 예측할 때 이 값을 사용할 수 있습니다.

dt = datetime.now()  
fs.materialize(start_date=dt - relativedelta(months=24), end_date=dt)

# get_historical_features, get_online_features를 사용하여 피처 서빙하기

훈련을 위한 피처 가져오기

Feast는 온라인 및 오프라인 저장소에서 피처를 가져오는 API를 제공합니다. 훈련할 때는 이 API로 오프라인 저장소의 과거 데이터에 접근할 수 있습니다.

import pandas as pd  
  
# Prepare entity dataframe with (user_id, event_timestamp) so that Feast can do Point-in-time joins  
# https://docs.feast.dev/getting-started/concepts/point-in-time-joins  
entity_df=pd.DataFrame(  
    [  
        ['HlWpZydxscnmjGgeIPLi', pd.datetime(2023,1,2)],  
        ['RckfsuJrhXFYAToUVlmy', pd.datetime(2024,1,9)],  
		['WJGbtTpKalFBqmMhcnPC', pd.datetime(2024,5,9)],   
	],  
	columns=['user_id','event_timestamp']  
)  
  
#  
df_feature = fs.get_historical_features(  
	entity_df=entity_df,  
	features=[  
		'user_info:Age',  
		'user_info:Education',  
		'user_loan_ts:median_previous_income'  
	]  
)

피처 서빙하기 (온라인 저장소):

마찬가지로 실시간 예측에서는 서빙 인프라가 온라인 저장소에서 최신 피처를 가져올 수 있습니다.

import pandas as pd  
  
# Prepare entity dataframe with (user_id, event_timestamp) so that Feast can do Point-in-time joins  
# https://docs.feast.dev/getting-started/concepts/point-in-time-joins  
entity_df=pd.DataFrame(  
	[  
		['HlWpZydxscnmjGgeIPLi', pd.datetime(2023,1,2)],  
		['RckfsuJrhXFYAToUVlmy', pd.datetime(2024,1,9)],  
		['WJGbtTpKalFBqmMhcnPC', pd.datetime(2024,5,9)],  
	],  
	columns=['user_id','event_timestamp']  
)  
  
#  
df_feature = fs.get_online_features(  
	entity_rows=[{'user_id': 'kyHoSmrOEWTzDRlpqBVQ'}],  
	features=[  
		'user_info:Age',  
		'user_info:Education',  
		'user_loan_ts:median_previous_income'  
	]  
)

다음으로 시나리오별 사용 사례를 간략하게 소개합니다.

# 시나리오 01: DS - 미리 계산된 피처를 기반으로 빠르게 실험하기

# 1. 피처 생성 및 등록 (스테이징)

1단계: 피처 구축
2단계: 피처를 저장소에 저장
3단계: 피처 스토어에 레지스트리 등록

# 2. 다른 훈련을 위한 피처 재사용

1단계: Feast UI를 탐색하여 고려할 피처 목록을 찾습니다.
2단계: get_historical_features, get_online_features를 사용하여 피처 세부 정보를 가져옵니다.

# 시나리오 02: DE - 데이터 파이프라인 통합 (프로덕션)

# CI/CD 파이프라인 준비 및 피처 자동 가져오기

엔터티 목록 정의

FeatureView 목록 정의

모든 엔터티와 피처를 레지스트리에 등록

# 시나리오 03: MLE - 온라인 API 추론 서빙

Source: A State of Feast (opens new window)

@app.post("/predict_loan_default")  
def predict_loan_default(request_loan_predict: Request) -> Response:  
      
    # 1. Load model and parse requests' info  
    xgb: XGBClassifier=ml_models['model']  
    feature_dict={}  
    user_id=request_loan_predict.user_id  
    feature_dict['loan_amount']=request_loan_predict.loan_amount  
    feature_dict['loan_term']=request_loan_predict.loan_term  
    feature_dict['dti_ratio']=request_loan_predict.dti_ratio  
    feature_dict['interest_rate']=request_loan_predict.interest_rate  
      
    # 2. Get pre-built features from Feature store  
    store:FeatureStore=ml_models['store']  
    fs_model=store.get_feature_service('user_xgb_v1')  
    features_from_store = store.get_online_features(  
        features=fs_model, entity_rows=[{'user_id':user_id}]  
    ).to_dict()  
  
    # 3. Combine all features  
    list_feature=[]  
    for feature in xgb.feature_names_in_:  
        if feature not in feature_dict:  
            feature_dict[feature]=features_from_store[feature][0]  
      
        list_feature.append(feature_dict[feature])  
      
    # 4. Make model inference  
    score=xgb.predict_proba(np.array([list_feature]))[0][1]  
      
    # 5. Response results  
    response=Response(request=request_loan_predict,default_score=score)  
      
    return response

# 논의

# Future Directions:

벡터 데이터베이스 지원 확장: 더 많은 벡터 데이터베이스와의 호환성을 검토해 다양한 사용자 요구와 선호를 충족합니다.
데이터 품질 모니터링 성숙화: 벡터화된 데이터의 잠재적인 문제를 찾아 해결하는 강력한 기능을 제공하도록 데이터 품질 모니터링 기능을 계속 개발합니다.
텍스트 및 이미지 피처 통합: 텍스트 및 이미지 피처 워크플로우와의 원활한 통합을 검토해, 사용자가 이미지 검색이나 텍스트 유사도 분석 같은 작업에 VectorDB를 활용할 수 있도록 합니다.

# Strengths:

표준화되고 일관된 피처: 모델 간에 동일한 정의와 변환이 적용된 피처를 쓰도록 보장합니다.
시계열 지원: 특정 시점 기준의 정확성을 제공하며, 이는 금융 데이터나 거래 데이터에서 중요한 요소입니다.
다른 도구와의 통합: Feast는 Airflow, Dagster, MLFlow, K8s와 같은 인기 있는 머신러닝 프레임워크와 잘 통합되며, 데이터 및 모델 관리 도구와도 호환됩니다.
온라인 및 오프라인 지원: 실시간 예측과 배치 예측을 돕고, 훈련과 예측을 위한 모든 피처 데이터를 관리하는 통합된 방법을 제공하여 모델 배포 및 서빙을 간소화합니다. 현재 Feast는 SnowFlake, BigQuery, PostgreSQL, MySQL, RedShift, Athena, DuckDB, Trino, Ibis, Redis, DynamoDB, Cassandra, HBase, Rockset, Hazelcast 등을 지원합니다.
데이터 버전 관리: 피처의 다양한 버전을 쉽게 관리하고 추적할 수 있습니다.

# Weaknesses:

복잡성: 간단한 프로젝트나 머신러닝을 시작하는 팀에게는 과도할 수 있습니다.
최소한의 UI: 피처 탐색 및 관리용 사용자 인터페이스 옵션이 최소한에 그칩니다.
저장소별 지원 수준 차이: 여러 데이터베이스를 지원하지만, 공식(core) 지원은 BigQuery, Redshift, Snowflake 등 일부이고 Spark, PostgreSQL 등 상당수는 커뮤니티 기여(contrib) 플러그인이라 기능 성숙도가 저장소마다 다릅니다.
문서 부족: 개선 중이지만, Feast 문서는 특히 복잡한 배포나 고급 사용 사례 쪽에 여전히 부족한 부분이 있습니다.

← MLOps 02: Dagster - Seamless Data Pipelines & ML Model Management for Machine Learning Engineers Metrics Monitoring and Alerting system →