Mavzu
Fan: BI (Ma'lumotlar muhandisligi va Machine Learning)
Sinf: 10-sinf
Mavzu: Ma'lumotlar arxitekturasi qatlamlari, Data Lifecycle 7 bosqichi, Data Quality mezonlari va Maktab tahliliy platformasi loyihasi
Nazariy konspekt
1. Ma’lumotlar arxitekturasi (Data Architecture) qatlamlari
Ma’lumotlar arxitekturasi — ma’lumotlar qayerdan kelishi, qanday saqlanishi, qanday tozalanishi va kimga qanday ko‘rinishda taqdim etilishini belgilab beruvchi yuqori darajadagi loyihadir.
Asosiy 6 ta qatlam:
- Source layer (Manbalar): Ma'lumot paydo bo'ladigan joylar (maktab LMS tizimlari, Excel jurnallar, API, sensorlar).
- Ingestion layer (Yig‘ish): Ma'lumotlarni qabul qilish (fayl import, avtomatlashtirilgan oqimlar).
- Storage layer (Saqlash): Xom ma'lumotlar saqlanadigan Raw zona (Data Lake) va tahliliy ma'lumotlar ombori (Data Warehouse).
- Processing/Transform layer (Qayta ishlash): Tozalash, duplikatlarni yo'qotish, agregatsiya (ETL/ELT jarayonlari).
- Serving layer (Taqdim etish): BI dashboardlar (Power BI, Tableau), tahliliy hisobotlar va ML modellari uchun yetkazib berish.
- Governance & Observability (Boshqaruv va kuzatuv): Sifat nazorati, xatolar monitoringi, loglar va xavfsizlik.
2. Ma’lumotlar hayot sikli (Data Lifecycle) - 7 bosqich
Ma’lumot o‘z faoliyati davomida quyidagi 7 bosqichni bosib o‘tadi:
- Collect / Ingest (Yig'ish): Ma'lumotni tashqi manbalardan tizimga kiritish.
- Store (Saqlash): Xom ma'lumotni o'zgartirmasdan saqlash (raw zone).
- Validate / Clean (Tekshirish va tozalash): Xato qiymatlar, duplikatlar va bo'shliqlarni aniqlash hamda tuzatish.
- Transform (O'zgartirish): Biznes talablariga mos hisoblashlar va formatlash.
- Serve / Publish (Taqdim etish): Tahlilchilar va qaror qabul qiluvchilarga yetkazish.
- Monitor / Log (Kuzatuv): Quvurning ishlashi, vaqti va xatolarini qayd etish.
- Archive / Retention (Arxivlash): Eskirgan ma'lumotlarni arxivlash yoki xavfsiz saqlash.
3. Data Quality (Ma'lumotlar sifati)ning 4 ta asosiy mezoni
Har qanday tahliliy tizim va sun'iy intellekt modeli to'g'ri ishlashi uchun ma'lumotlar 4 ta talabga javob berishi kerak:
- Completeness (To'liqlik): Barcha zaruriy ustunlar to'ldirilgan bo'lishi, kritik maydonlarda bo'sh (null) qiymatlar bo'lmasligi.
- Accuracy (Aniqlik): Ma'lumotlar haqiqatga mos kelishi (masalan, o'quvchilar soni manfiy bo'lmasligi).
- Consistency (Izchillik): Barcha jadvallarda yagona standart format qo'llanishi (masalan, viloyat nomlari bir xil yozilishi).
- Timeliness (O'z vaqtidalik): Ma'lumotning o'z vaqtida yangilangan bo'lishi.
4. Loyiha keysi: "Maktab tahliliy platformasi"
Platformaning asosiy foydalanuvchi rollari:
- Direktor / MMTB rahbari: Hududlar kesimida umumiy ko'rsatkichlarni, o'quvchi/maktab va o'quvchi/o'qituvchi resurs yuklamasini kuzatadi.
- Analitik: Yillik dinamika (YoY), hududlar reytingi va 3 yillik harakatlanuvchi o'rtacha (moving average) ko'rsatkichlarini hisoblaydi.
- Administrator (Data Operator): Xom fayllarni qabul qiladi, Profiling va Validation o'tkazadi, ma'lumotlarni tozalab bazaga yuklaydi va loglarni tekshiradi.
Amaliy topshiriqlar
1-topshiriq: Arxitektura qatlamlarini moslashtirish oson
Quyidagi amallarning har biri Data Architecture'ning qaysi qatlamiga tegishli ekanini aniqlang: a) Maktab o'qituvchilari har kuni baholarni kiritadigan elektron kundalik tizimi;
b) Har kecha soat 02:00 da barcha hududiy fayllarni bitta omborga nusxalovchi dastur;
c) Viloyat xalq ta'limi boshqarmasi boshlig'i planshetidagi interaktiv xarita va diagrammalar;
d) Xom CSV fayllardagi takrorlangan satrlarni o'chiruvchi Python funksiyasi.
2-topshiriq: Data Quality mezonini aniqlash oson
Quyidagi holatda Data Quality'ning qaysi mezoni buzilgan: "Kasalxona tizimida bemorning vazni 450 kg, bo'yi esa 12 sm deb yozilgan". Bu qaysi mezonga zid?
3-topshiriq: Consistency (Izchillik) muammosi oson
Bitta kompaniyada sana 3 xil usulda saqlangan: 2024-05-12, 12/05/2024 va May 12, 2024. Bu holat qanday tahliliy qiyinchiliklarni keltirib chiqaradi?
4-topshiriq: Data Lifecycle ketma-ketligi o'rta
Ma'lumotlar hayot siklining 5 ta bosqichini to'g'ri mantiqiy ketma-ketlikda joylashtiring:
- Transform (O'zgartirish)
- Ingest (Qabul qilish)
- Archive (Arxivlash)
- Validate (Sifat tekshiruvi)
- Serve (Taqdim etish)
5-topshiriq: Ssenariy tahlili (Direktor roli) o'rta
Maktab direktori platformaga kirganda eng birinchi bo'lib qaysi 4 ta asosiy KPI ko'rsatkichni ko'rishi kerak? Loyihalashtiring.
6-topshiriq: Administrator validation qoidalari o'rta
Yangi o'quv yili uchun maktablar ro'yxati CSV faylda keldi. Administrator ushbu fayl uchun qaysi 3 ta majburiy validation (tekshirish) qoidasini kiritishi shart?
7-topshiriq: Python'da manfiy sonlarni topish o'rta
Quyidagi ro'yxatda o'quvchilar soni saqlangan: sonlar = [450, 620, -15, 890, 0, 750].
Python'da ro'yxatdagi barcha xato (0 dan kichik) qiymatlarni topib ekranga chiqaruvchi kod yozing.
8-topshiriq: Resurs yuklamasi formulasini tuzish qiyin
Tuman bo'yicha 15 ta maktab, 12 000 nafar o'quvchi va 600 nafar o'qituvchi bor. a) Bitta maktabga o'rtacha necha nafar o'quvchi to'g'ri keladi? b) Bitta o'qituvchiga necha nafar o'quvchi to'g'ri keladi? Ushbu ikki ko'rsatkich ta'lim boshqaruvida nima uchun o'ta muhim?
9-topshiriq: "Garbage In, Garbage Out" keysi qiyin
Tasavvur qiling, maktab kutubxonasi kitoblar soni bo'yicha hisobotda har bir sinf kitoblar sonini 10 barobarga ko'paytirib yozgan. Bu noto'g'ri ma'lumot keyinchalik viloyat budjetiga va yangi darsliklar xaridiga qanday salbiy ta'sir ko'rsatadi?
10-topshiriq: To'liq Data Pipeline sxemasini chizish bonus
"Maktab tahliliy platformasi" uchun xom Excel fayllardan to Power BI dashboardigacha bo'lgan to'liq arxitektura sxemasini daftaringizda bloklar ko'rinishida chizing.
O'zini tekshirish uchun savollar
- Ma'lumotlar arxitekturasining 6 ta asosiy qatlami qaysilar?
- Data Lifecycle ning 7 ta bosqichini sanab bering.
- Data Quality'ning 4 asosiy ustuni (Completeness, Accuracy, Consistency, Timeliness) o'rtasidagi farq nima?
- Administrator (Data Operator) qanday tekshiruvlarni amalga oshiradi?
- Resurs yuklamasi (o'quvchi/o'qituvchi nisbati) nima uchun tahliliy ko'rsatkich hisoblanadi?
Uyga vazifa
- Uy atrofingizdagi biror tashkilot (masalan, poliklinika, do'kon yoki sport to'garagi) uchun 6 qatlamli ma'lumotlar arxitekturasini loyihalashtiring.
- Data Quality mezonlarining har biriga hayotiy misol keltirib, konspekt yozing.
