پاکسازی داده ها

پاکسازی داده ها

داده‌های نادرست می‌توانند پرهزینه باشند. در بسیاری از موارد ممکن است داده ها در فایل ها و منابع مختلف نگهداری شوند و در این صورت نیاز است تا داده ها پیش از اجرای تکنیک های داده کاوی یا آماده سازی برای هوشمندسازی کسب و کار با یکدیگر یکپارچه شوند.
یکپارچه سازی هم فعالیتی سنگین است و هم چالش های فراوانی را به همراه دارد.
پاکسازی داده‌ها با هدف استخراج اطلاعات دقیق انجام می شود. فرآیندی است جهت تشخیص، حذف و اصلاح  داده‌های نادرست از  بانک‌های اطلاعاتی می‌باشد. داده‌های نادرست یا ناسازگار می‌تواند منجر به نتیجه‌گیری غلط و شکست سرمایه‌گذاری بزرگ و کوچک شود.
پس از پاکسازی، مجموعه داده‌ها باید با سایر مجموعه داده‌های مشابه در سیستم سازگار باشد. در واقع داده‌های ناسازگار شناسایی شده یا حذف شده ممکن است در ابتدا ناشی از اشتباهات ورود داده‌ها از طرف کاربر، تغییر داده‌ها در حین انتقال پرونده یا ذخیره‌سازی با تعاریف غیراستانداردی که بین سازمان‌های مختلف متفاوت می‌باشد صورت پذیرد .
مهمترین فعالیت های این بخش عبارت است:

  • تخمین مقادیر ناموجود در پایگاه داده ها؛
  • از بین بردن اختلال (noise) در داده ها؛
  • حذف کردن داده های پرت و نامربوط؛
  • از بین بردن ناسازگاری در داده ها؛

نکته مهم این است که هر چه این گام دقیقتر و مرتبطتر با کسب و کار شما انجام شود، استفاده از داده ها برای انبار داده و به طبع آن داده کاوی و هوشمندسازی کسب و کار نیز حرفه ای تر انجام خواهد شد.

نوشته‌های مشابه

  • LOG

    توضیحات این تابع لگاریتم عدد n را بر مبنای m بر می‌گرداند. دستور تابع log به صورت زیر نوشته می‌شود: ۱ LOG( m, n ) . مثال مثال‌هایی از خروجی تابع log را مشاهده می‌کنیم: ۱ ۲ ۳ ۴ ۵ ۶ ۷ ۸ LOG(۱۰, ۲۰) Result: ۱.۳۰۱۰۲۹۹۹۵۶۶۳۹۸ LOG(۲, ۱۵) Result: ۳.۹۰۶۸۹۰۵۹۵۶۰۸۵۲ LOG(۱۰۰, ۱) Result: ۰

  • REGEXP_REPLACE

    توضیحات این تابع  این امکان را می‌دهد تا یک‌سری کاراکتر را در رشته‌ای جاگزین مجموعه‌ای از کاراکترها کرد. دستور تابع REGEXP_REPLACE به صورت زیر نوشته می‌شود: ۱ REGEXP_REPLACE( string, pattern [, replacement_string [, start_position [, nth_appearance [, match_parameter ] ] ] ] ) . PATTERN: الگویی را برای تطبیق دادن ارائه می‌دهد. start_position: گزینه‌ای اختیاری است، نشان…

  • LAST_DATE

    توضیحات این تابع آخرین روز ماه را بر اساس تاریخ داده شده بر می‌گرداند. دستور تابع LAST_DATE به صورت زیر نوشته می‌شود: ۱ LAST_DAY( date ) . مثال مثالی از خروجی تابع LAST_DATE را مشاهده می‌کنیم: ۱ ۲ ۳ ۴ ۵ ۶ ۷ ۸ LAST_DAY(TO_DATE(\’۲۰۰۳/۰۳/۱۵\’, \’yyyy/mm/dd\’)) Result: Mar ۳۱, ۲۰۰۳ LAST_DAY(TO_DATE(\’۲۰۰۳/۰۲/۰۳\’, \’yyyy/mm/dd\’)) Result: Feb ۲۸,…

  • REGEXP_INSTR

    توضیحات این تابع مکان الگویی را درون یک تابع باز می‌گرداند. دستور تابع REGEXP_INSTR به صورت زیر نوشته می‌شود: ۱ REGEXP_INSTR( string, pattern [, start_position [, nth_appearance [, return_option [, match_parameter [, sub_expression ] ] ] ] ] ) . PATTERN: الگویی را برای تطبیق دادن ارائه می‌دهد. start_position: گزینه‌ای اختیاری است، نشان دهنده جایی است که…

  • TO_LOB

    توضیحات این تابع مقدار long یا longrow را به LOB تبدیل می‌کند. دستور تابع TO_LOB به صورت زیر نوشته می‌شود: ۱ TO_LOB( long_column ) . مثال مثال‌های عددی از خروجی تابع TO_LOB را مشاهده می‌کنیم: ۱ ۲ ۳ insert into companies (lob_column) select TO_LOB(long_column) from suppliers;

  • ROWNUM

    توضیحات این تابع عددی سطر رکوردها را بر می‌گرداند. دستور تابع ROWNUM به صورت زیر نوشته می‌شود: ۱ ROWNUM . مثال مثال‌هایی از خروجی تابع ROWNUM را مشاهده می‌کنیم: ۱ ۲ ۳ ۴ ۵ ۶ ۷ ۸ ۹ ۱۰ ۱۱ ۱۲ ۱۳ ۱۴ ۱۵ ۱۶ ۱۷ ۱۸ ۱۹ ۲۰ CUSTOMER_ID  LAST_NAME  FIRST_NAME  FAVORITE_WEBSITE ———–  ——— …