【C++】去除vector里重复元素的方法比较

背景：构造一个无重复的白名单，之后要在里面进行二分查找。故要求名单有序，且无重复，并且要进行二分查找，所以要采用有：随机访问迭代器类型的容器。这类容器有vector，array，deque。显然要vector和deque合适一点，但是deque并没有体现出其两端和中间插入时间为固定而非线性的优势，因为本例都在尾部插入，vector和deque同为固定时间。而deque的随机存储操作时间长，故采用vector。

一.利用STL算法unique

首先要将vector排序，排序后。利用erase配合unique算法。利用一个含有一百万整数，里面重复数字并不太多的情况测试。

#include<fstream>
#include<iostream>
#include <vector>
#include<algorithm>
#include<ctime>

using namespace std;
void main()
{
    ifstream fwhite;
    int number;
    vector<int> white_list;
    clock_t cost;
    fwhite.open("largeW.txt");
    if(!fwhite.is_open())
    {//or use .good .fail or directly use ! to judge if the file has been opened successfully
        cout<<"can't open file list"<<endl;
        exit(EXIT_FAILURE);
    }
    cost=clock();


    while(!fwhite.eof())
    {
        fwhite>>number;
        white_list.push_back(number);
    }
    cost=clock()-cost;
    cout<<"Time to load data : "<<cost<<endl;

    sort(white_list.begin(),white_list.end());
    white_list.erase(unique(white_list.begin(),white_list.end()),white_list.end());
    cost = clock()-cost;
    cout<<"Time to remove reduplicative data from vector : "<<cost<<endl;

    ofstream fout("sort_white.txt",ios::trunc);

    vector<int>::iterator iter=white_list.begin();
    while (iter!= white_list.end())
    {
        fout<<*iter<<endl;
        iter++;
    }
    cost = clock()-cost;
    cout<<"Time to write data into file : "<<cost<<endl;
    exit(EXIT_SUCCESS);
};

二.利用set配合copy

读数据的时候就用set，然后直接拷贝到vector。但是拷贝的时候要用到insert_iterator来进行插入拷贝。（溢出问题）

#include<fstream>
#include<iostream>
#include <vector>
#include<set>
#include<algorithm>
#include<ctime>
#include <iterator>
using namespace std;
void main()
{
    ifstream fwhite;
    int number;
    vector<int> white_list;
    set<int> ori_list;
    clock_t cost;
    fwhite.open("largeW.txt");
    if(!fwhite.is_open())
    {//or use .good .fail or directly use ! to judge if the file has been opened successfully
        cout<<"can't open file list"<<endl;
        exit(EXIT_FAILURE);
    }
    cost=clock();


    while(!fwhite.eof())
    {
        fwhite>>number;
        ori_list.insert(number);
    }
    cost=clock()-cost;
    cout<<"Time to load data : "<<cost<<endl;

    insert_iterator<vector<int> > it(white_list,white_list.begin());
    copy(ori_list.begin(),ori_list.end(),it);
    cost = clock()-cost;
    cout<<"Time to copy data from set to vector : "<<cost<<endl;

    ofstream fout("sort_white.txt",ios::trunc);
    vector<int>::iterator iter=white_list.begin();
    while (iter!= white_list.end())
    {
        fout<<*iter<<endl;
        iter++;
    }
    cost = clock()-cost;
    cout<<"Time to write data into file : "<<cost<<endl;
    exit(EXIT_SUCCESS);
};

三.时间开销从开始构造容器开始，利用clock计时

第一种耗时：8.477秒

第二种耗时：23.246秒

看出，还是直接用vector就好，然后配合unique好。原因：同样插入100万个整数，set用时过长，经测试用去了约18秒。为主要开销。

第一种：读取文件到vector开销5.852秒，排序并去除重复元素开销3.205秒，写文件开销15.624秒。总耗时约24秒左右。

第二种：读文件到set开销18.893秒，从set拷贝数据到vector开销4.884秒，写文件开销20秒。总耗时约44秒左右。

但是看出程序写文件很慢，本例中采用iterator迭代取值写文件，如果直接采用索引下标会不会更快？或者采用copy函数和stream_interator？

四.在一的基础上，最后写文件时采用下标而不是迭代器

发现并无明显改进。

五.采用统一复制，配合ostream_iterator使用，在此例中速度缩短近一半。

#include<fstream>
#include<iostream>
#include <vector>
#include<algorithm>
#include<ctime>
#include <iterator>

using namespace std;
void main()
{
    ifstream fwhite;
    int number;
    vector<int> white_list;
    clock_t cost;
    fwhite.open("largeW.txt");
    if(!fwhite.is_open())
    {//or use .good .fail or directly use ! to judge if the file has been opened successfully
        cout<<"can't open file list"<<endl;
        exit(EXIT_FAILURE);
    }
    cost=clock();


    while(!fwhite.eof())
    {
        fwhite>>number;
        white_list.push_back(number);
    }
    cost=clock()-cost;
    cout<<"Time to load data : "<<cost<<endl;

    sort(white_list.begin(),white_list.end());
    white_list.erase(unique(white_list.begin(),white_list.end()),white_list.end());
    cost = clock()-cost;
    cout<<"Time to remove reduplicative data from vector : "<<cost<<endl;

    ofstream fout("sort_white.txt",ios::trunc);

    /*vector<int>::iterator iter=white_list.begin();
    while (iter!= white_list.end())
    {
        fout<<*iter<<endl;
        iter++;
    }*/
    //for(unsigned int index = 0;index< white_list.size();index++)
    //{
    //  fout<<white_list[index]<<endl;
    //}

    copy(white_list.begin(),white_list.end(),ostream_iterator<int,char>(fout,"
"));
    cost = clock()-cost;
    cout<<"Time to write data into file : "<<cost<<endl;
    exit(EXIT_SUCCESS);
};

另外：largeW文件是从《算法4》的网站得到的，或者可以采用rand函数先自己制造一个。每行一个int型整数，100万行即可。