هندسة السمات

طريقان إلى نفس الفكرة

قبل أن تبدأ

الفكرة الجوهرية

النموذج لا يرى إلا الأرقام التي تعطيه. تبني هنا أرقامًا من المدن، ثم تضع الأعمدة على مقياس واحد، ثم تستخرج سمات من التاريخ والنص، ثم ترى لماذا يجب أن تثبت كل سمة جدارتها.

1عمود لكل فئة

لو كتبت الرياض = 1 وجدة = 2 والدمام = 3، لقرأ النموذج الخطي الدمام «ثلاثة أضعاف» الرياض. انظر إلى الرسم: كل مدينة تصير ثلاثة أرقام، واحد منها فقط يساوي 1.

الترميز الأحادي (One-hot) يصنع عمودًا لكل مدينة، فيه 1 إذا كانت هذه مدينة الصف و0 غير ذلك. لا ترتيب مزيّف، ولا مسافات مخترعة.

import pandas as pd

df = pd.DataFrame({"city": ["Riyadh", "Jeddah", "Dammam", "Jeddah"], "rooms": [3, 2, 4, 3]})
print(pd.get_dummies(df, columns=["city"], dtype=int).to_string(index=False))

أربعة صفوف، وثلاثة أعمدة جديدة. في الإنتاج استخدم OneHotEncoder(handle_unknown="ignore") داخل خط أنابيب، لأن get_dummies لا يتذكّر الأعمدة، ومدينة جديدة لم ترها في التدريب ستكسر الشكل.

الرقم الترتيبي يصلح فقط إذا كان الترتيب حقيقيًا، مثل صغير ووسط وكبير.

2مقياس واحد لكل الأعمدة

الراتب بالآلاف والعمر بالعشرات. النموذج الذي يعتمد على المسافة يرى فرق ألف ريال أهمّ بكثير من فرق عشر سنوات، فقط لأن الرقم أكبر.

التوحيد يطرح المتوسط ويقسم على الانحراف، فيصير لكل عمود متوسط صفر وانتشار واحد.

المخرج يعتمد على العمر فقط (فوق الأربعين أو لا). الراتب ضجيج بأرقام كبيرة.

import numpy as np
from sklearn.model_selection import cross_val_score
from sklearn.neighbors import KNeighborsClassifier
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler

rng = np.random.default_rng(0)
n = 600
salary = rng.normal(9000, 3000, n)
age = rng.uniform(20, 60, n)
y = (age > 40).astype(int)
X = np.column_stack([salary, age])
raw = cross_val_score(KNeighborsClassifier(), X, y, cv=5).mean()
scaled = cross_val_score(make_pipeline(StandardScaler(), KNeighborsClassifier()), X, y, cv=5).mean()
print(f"kNN raw:    {raw:.3f}")
print(f"kNN scaled: {scaled:.3f}")

بدون توحيد 57.8%، قريب من الصدفة، لأن المسافة كلها تقريبًا راتب. بعد التوحيد 98.7%. نفس البيانات ونفس النموذج، والفرق سطر واحد. ولاحظ أن التوحيد داخل make_pipeline حتى لا يتسرّب من أجزاء التحقّق.

3سمات من التاريخ والنص

التاريخ الخام كرقم لا يفيد النموذج تقريبًا. انظر إلى الرسم: من تاريخ واحد تخرج الساعة ويوم الأسبوع وهل هو عطلة.

import pandas as pd

orders = pd.DataFrame({
    "placed_at": pd.to_datetime(["2026-03-05 08:10", "2026-03-06 21:40", "2026-03-07 13:05"]),
    "note": ["عاجل جدا", "", "الرجاء الاتصال قبل الوصول"],
})
orders["hour"] = orders.placed_at.dt.hour
orders["weekday"] = orders.placed_at.dt.day_name()
orders["is_weekend"] = orders.placed_at.dt.day_of_week.isin([4, 5]).astype(int)
orders["note_words"] = orders.note.str.split().str.len()
orders["is_urgent"] = orders.note.str.contains("عاجل").astype(int)
print(orders.drop(columns=["placed_at", "note"]).to_string(index=False))

عمود تاريخ واحد صار ثلاث سمات، وعمود نص صار سمتين. day_of_week يبدأ من الاثنين = 0، فالجمعة 4 والسبت 5. هذه معرفة محلية لا يملكها النموذج: في بلد آخر ستكون عطلة نهاية الأسبوع مختلفة.

والنص يعطي سمات بسيطة قوية: عدد الكلمات، ووجود كلمة مثل «عاجل». هذه تأتي قبل التضمينات بكثير.

4كل سمة تثبت جدارتها

السمة التي هي ضجيج يتعلّم منها النموذج أنماطًا وهمية، خاصة مع بيانات قليلة. لذلك تُقاس كل سمة على التحقّق قبل أن تبقى.

ثلاث سمات حقيقية، ثم نضيف سمات عشوائية تمامًا. مع 120 صفًا فقط، راقب ماذا يحدث.

import numpy as np
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import cross_val_score

rng = np.random.default_rng(1)
n = 120
signal = rng.normal(size=(n, 3))
y = (signal.sum(axis=1) + rng.normal(scale=0.8, size=n) > 0).astype(int)
for extra in [0, 20, 200]:
    X = np.hstack([signal, rng.normal(size=(n, extra))])
    score = cross_val_score(LogisticRegression(max_iter=2000), X, y, cv=5).mean()
    print(f"3 real + {extra:3} noise features -> {score:.3f}")

من 89.2% إلى 87.5% بعشرين سمة ضجيج، ثم 63.3% بمئتين. النموذج وجد «أنماطًا» في الضجيج تنطبق على التدريب ولا تنطبق على غيره. كلما قلّت البيانات، صارت كل سمة إضافية مخاطرة.

كيف يعمل، خطوة بخطوة: كيف تقرّر أن سمة جديدة تستحق البقاء

مثال محلول

المدينة نص، والنموذج يحتاج أرقامًا. لو كتبت الرياض = 1 وجدة = 2 والدمام = 3، لفهم النموذج الخطي أن الدمام «أكبر» من الرياض بمرتين، وهذا هراء.

٢. مقاييس مختلفة تخدع المسافة

الراتب بالآلاف والعمر بالعشرات. نموذج يعتمد على المسافة، مثل أقرب الجيران، سيرى أن فرق ألف ريال أهم بمئة مرة من فرق عشر سنوات، لأن الرقم أكبر فقط.

جرّب بلا كود

خرافة مقابل حقيقة

جرّب بنفسك

بطاقات مراجعة سريعة

تحقق من فهمك