[프로그래머스] Lv.2 [1차] 뉴스 클러스터링 문제 해결 과정(Java)

문제 설명

뉴스 클러스터링

여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다.

개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 "카카오 신입 개발자 공채" 관련 기사를 검색해보았다.

• 카카오 첫 공채..'블라인드' 방식 채용
• 카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용
• 카카오, 블라인드 전형으로 신입 개발자 공채
• 카카오 공채, 신입 개발자 코딩 능력만 본다
• 카카오, 신입 공채.. "코딩 실력만 본다"
• 카카오 "코딩 능력만으로 2018 신입 개발자 뽑는다"

기사의 제목을 기준으로 "블라인드 전형"에 주목하는 기사와 "코딩 테스트"에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 "자카드 유사도"라는 방법을 찾아냈다.

자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 "1"을 3개 가지고 있고, 다중집합 B는 원소 "1"을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 "1"을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 "1"을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 "FRANCE"와 "FRENCH"가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

입력 형식

• 입력으로는 str1과 str2의 두 문자열이 들어온다. 각 문자열의 길이는 2 이상, 1,000 이하이다.
• 입력으로 들어온 문자열은 두 글자씩 끊어서 다중집합의 원소로 만든다. 이때 영문자로 된 글자 쌍만 유효하고, 기타 공백이나 숫자, 특수 문자가 들어있는 경우는 그 글자 쌍을 버린다. 예를 들어 "ab+"가 입력으로 들어오면, "ab"만 다중집합의 원소로 삼고, "b+"는 버린다.
• 다중집합 원소 사이를 비교할 때, 대문자와 소문자의 차이는 무시한다. "AB"와 "Ab", "ab"는 같은 원소로 취급한다.

출력 형식

입력으로 들어온 두 문자열의 자카드 유사도를 출력한다. 유사도 값은 0에서 1 사이의 실수이므로, 이를 다루기 쉽도록 65536을 곱한 후에 소수점 아래를 버리고 정수부만 출력한다.

예제 입출력

str1	str2	answer
FRANCE	french	16384
handshake	shake hands	65536
aa1+aa2	AAAA12	43690
E=M*C^2	e=m*c^2	65536

해설 보러가기

 

> 출처: 프로그래머스 코딩 테스트 연습, https://school.programmers.co.kr/learn/challenges

코딩테스트 연습 | 프로그래머스 스쿨

 

 

---

 사실 예전에 이 문제를 풀어보려고 시도했었습니다. 처음에 문제 내용을 이해했다고 생각하고 테스트 케이스를 보는데, 뭔가 제가 이해한 내용과 달라서 갈피를 잡지 못해서 결국 포기하고 다른 문제를 풀러 갔습니다. 그러고 오늘 프로그래머스에서 이 문제를 다시 추천해주길래 도전해서 풀었습니다.

 

 우선 이 문제는 크게 2단계로 나뉩니다.

1. 두 집합의 다중원소를 추출하기
2. 두 집합의 자카드 유사도 구하기

 이번에 풀어보고 제가 예전에 첫번째 단계를 제대로 처리하지 못했다는 것을 알았습니다. 3번째 테스트 케이스로 예시를 들어보겠습니다("aa1+aa2"와 "AAAA12").

 처음에 문제를 풀 때, 두 문자열에서 알파벳을 제외한 나머지 문자를 다 제거할 필요가 있다고 생각해서 저는 아래와 같은 코드를 썼습니다.

return str.toLowerCase().replaceAll("[^a-z]", "");

 하지만 이렇게 하고 나니 두 집합의 다중원소가 "aa", "aa", "aa"로 출력되서 결과값이 65536이 나오는 현상이 생겼습니다. 그래서 이 부분을 어떻게 처리하는 게 좋을까 생각하다가, 불필요한 문자들의 형태가 다양해서 일치시켜야 할 필요성을 느꼈습니다. 그래서 아래와 같이 바꿨습니다.

return str.toLowerCase().replaceAll("[^a-z]", " "); //공백 추가

 그러고 나서 다시 처리하니 원하는 대로 결과가 나왔습니다!(예전에 왜 이 생각을 못했을까 싶기도 한...)

 

 이정도의 소스면 해결하는 데 어렵지 않을 거라 생각하고 해결과정은 여기서 마무리하겠습니다. 소스코드는 숨김 글 처리 할테니 필요하신분은 확인하시면 되겠습니다.

---

전체 코드

import java.util.List;
import java.util.ArrayList;

class Solution {
    private final List<String> listA = new ArrayList<>();
    private final List<String> listB = new ArrayList<>();
    public int solution(String str1, String str2) {
        //원문 가공
        str1 = convert(str1);
        str2 = convert(str2);
        
        //A, B의 다중원소 설정
        setElement(str1, str2);
        
        //자카드 유사도 * 65536 값 구하기
        return findJacard();
    }
    
    private int findJacard() {
        float union = 0;        //합집합
        float intersect = 0;    //교집합
        
        int sizeA = listA.size();
        for(int i = 0; i < sizeA; i++) {
            String find = listA.remove(0);
            union++;
            if(listB.remove(find)) {
                intersect++;
            }
            // System.out.print("find = " + find);
            // System.out.print(", union = " + union);
            // System.out.println(", intersect = " + intersect);
        }
        
        union += listA.size() + listB.size();
        
        //공집합끼리 비교하는 경우 항상 일치하므로 자카드 유사도는 1이 됨.
        return union == 0 ? 65536 : (int) (65536 * intersect / union);
    }
    
    private void setElement(String str1, String str2) {
        for(int i = 0; i < str1.length()-1; i++) {
            String substr = str1.substring(i, i+2);
            if(!substr.contains(" ")) {
                listA.add(substr);            
            }
        }
        
        for(int i = 0; i < str2.length()-1; i++) {
            String substr = str2.substring(i, i+2);
            //문자로만 이루어진 다중원소를 추가
            if(!substr.contains(" ")) {
                listB.add(substr);            
            }
        }
    }
    
    private String convert(String str) {
        //특수문자를 공백으로 치환한다.
        return str.toLowerCase().replaceAll("[^a-z]", " ");
    }
}